Code braucht vorhersehbare Eingaben. Strukturierte Ausgabe macht aus dem freien Text eines Modells Daten, denen Ihr Programm vertrauen kann.
So funktioniert es
Es gibt drei Stufen der Kontrolle:
| Methode | Was Sie bekommen |
|---|---|
| Im Prompt darum bitten | Meist JSON, manchmal mit zusätzlichem Text oder fehlenden Feldern |
| JSON-Modus | Gültiges JSON, beliebige Struktur |
| Strukturierte Ausgabe mit Schema | JSON, das Ihrem Schema entspricht |
Im OpenAI-Format ist der JSON-Modus response_format: {"type": "json_object"}. Strukturierte Ausgabe übergibt ein Schema:
"response_format": {
"type": "json_schema",
"json_schema": {
"name": "invoice",
"strict": true,
"schema": {
"type": "object",
"properties": {
"vendor": { "type": "string" },
"total": { "type": "number" }
},
"required": ["vendor", "total"],
"additionalProperties": false
}
}
}
Laut der API-Referenz von OpenAI „ensures the model will match your supplied JSON schema“ der Typ json_schema (Übersetzung: „stellt sicher, dass das Modell Ihrem übergebenen JSON Schema entspricht“). Viele Anbieter erreichen das mit Constrained Decoding: Sie schränken bei jedem Schritt ein, welche Tokens das Modell erzeugen darf, sodass eine Ausgabe, die das Schema verletzt, gar nicht entstehen kann.
Warum es wichtig ist
- Weniger Parse-Fehler. Extraktions-Pipelines, Klassifikatoren und Agenten können Felder direkt lesen.
- Einfachere Prompts. Das Schema ersetzt lange Formatanweisungen.
- Keine vollständige Garantie. Laut dem Leitfaden von OpenAI sollte Ihre App weiterhin Ablehnungen, unvollständige Antworten und Fehler behandeln. Eine Antwort, die durch
max_tokensabgeschnitten wurde, ist kaputtes JSON, egal was das Schema sagt.
Die Unterstützung unterscheidet sich zwischen OpenAI-kompatiblen APIs. Manche akzeptieren nur json_schema, manche nur json_object, und manche ignorieren das Feld. Prüfen Sie das, bevor Sie sich darauf verlassen.
Bei BroadNet Inference
Die Dokumentation von BroadNet nennt strukturierte Ausgabe für GLM 5.3 und Qwen3.8 27B. Den Anfrageparameter nennt die Dokumentation nicht. Testen Sie response_format also mit Ihrem Modell und behalten Sie in jedem Fall einen JSON-Parser mit Fehlerbehandlung. Der Validator für JSON-Ausgaben von LLMs zeigt, wo eine Antwort bricht, und prüft sie gegen Ihr Schema. Beide Modelle denken zuerst nach. Lassen Sie in max_tokens also Platz für das Reasoning und das JSON.
Strukturierte Ausgabe passt gut zu Vision-Modellen. Die Anleitung zu arabischen Rechnungen sendet ein Bild und fragt die Felder als JSON ab. Für Aktionen statt Antworten verwenden Sie Tool Calling.
Häufige Fehler
- Im Strict-Modus
additionalProperties: falsevergessen oder nicht jedes Feld inrequiredaufführen. finish_reasonvor dem Parsen nicht prüfen.