Le code a besoin d’entrées prévisibles. La sortie structurée transforme le texte libre d’un modèle en données auxquelles votre programme peut se fier.
Comment ça marche
Il existe trois niveaux de contrôle :
| Méthode | Ce que vous obtenez |
|---|---|
| Le demander dans le prompt | Du JSON en général, parfois avec du texte en trop ou des champs manquants |
| Mode JSON | Du JSON valide, de forme quelconque |
| Sortie structurée avec schéma | Du JSON conforme à votre schéma |
Dans le format OpenAI, le mode JSON s’écrit response_format: {"type": "json_object"}. La sortie structurée passe un schéma :
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "invoice",
"strict": true,
"schema": {
"type": "object",
"properties": {
"vendor": { "type": "string" },
"total": { "type": "number" }
},
"required": ["vendor", "total"],
"additionalProperties": false
}
}
}
Selon la référence d’OpenAI, le type json_schema « ensures the model will match your supplied JSON schema » (traduction : « garantit que le modèle respectera le JSON Schema fourni »). Beaucoup de fournisseurs y parviennent par décodage contraint : à chaque étape, ils restreignent les tokens que le modèle peut produire, si bien qu’une sortie qui enfreint le schéma ne peut pas être générée.
Pourquoi c’est important
- Moins d’erreurs d’analyse. Les pipelines d’extraction, les classifieurs et les agents peuvent lire les champs directement.
- Des prompts plus simples. Le schéma remplace de longues consignes de format.
- Pas une garantie totale. Le guide d’OpenAI indique que votre application doit toujours gérer les refus, les réponses incomplètes et les erreurs. Une réponse tronquée par
max_tokensest un JSON cassé, quel que soit le schéma.
La prise en charge varie selon les API compatibles OpenAI. Certaines n’acceptent que json_schema, d’autres que json_object, et d’autres ignorent le champ. Vérifiez avant de vous en remettre à lui.
Sur BroadNet Inference
La documentation de BroadNet mentionne la sortie structurée pour GLM 5.3 et Qwen3.8 27B. Elle ne nomme pas le paramètre de requête : testez donc response_format sur votre modèle, et gardez dans tous les cas un analyseur JSON avec gestion d’erreurs. Le validateur de sortie JSON de LLM montre où une réponse casse et la vérifie par rapport à votre schéma. Les deux modèles raisonnent d’abord : laissez à max_tokens de la place pour la réflexion et pour le JSON.
La sortie structurée se marie bien avec les modèles de vision. Le guide des factures en arabe envoie une image et demande les champs en JSON. Pour des actions plutôt que des réponses, utilisez le tool calling.
Erreurs fréquentes
- Oublier
additionalProperties: false, ou ne pas lister chaque champ dansrequired, en mode strict. - Ne pas vérifier
finish_reasonavant l’analyse.