Der JSON-Modus beantwortet eine Frage: Wird json.loads() funktionieren? Die zweite beantwortet er nicht: Ist das das Objekt, das mein Code erwartet?
So funktioniert es
In der Chat Completions API schalten Sie ihn mit einem einzigen Feld ein:
{"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Return JSON with keys name and email."},
{"role": "user", "content": "Reach me at Sara, sara@example.com"}]}
Die API-Referenz von OpenAI nennt das „the older JSON mode, which ensures the message the model generates is valid JSON“ (Übersetzung: „den älteren JSON-Modus, der sicherstellt, dass die vom Modell erzeugte Nachricht gültiges JSON ist“). Zwei Regeln gehören dazu. Sie müssen in einer Nachricht nach JSON fragen: Laut Leitfaden von OpenAI „will throw an error if the string ‘JSON’ does not appear somewhere in the context“ (Übersetzung: „gibt [die API] einen Fehler aus, wenn die Zeichenfolge ‚JSON‘ nirgends im Kontext vorkommt“). Und die Struktur bestimmt das Modell. Der Leitfaden hält fest, dass der JSON-Modus „will not guarantee the output matches any specific schema“ (Übersetzung: „nicht garantiert, dass der Output einem bestimmten Schema entspricht“).
Strukturierte Ausgabe ist die strengere Option. Sie übergibt ein JSON Schema mit {"type": "json_schema", ...}, und das Modell ist daran gebunden.
JSON-Modus (json_object) |
Structured Outputs (json_schema) |
|
|---|---|---|
| Gültiges JSON | ja | ja |
| Pflicht-Keys und Typen | nein | ja |
| Sie liefern ein Schema | nein | ja |
| „JSON“ muss im Prompt stehen | ja (OpenAI) | nein |
OpenAI empfiehlt, „always using Structured Outputs instead of JSON mode when possible“ (Übersetzung: „wenn möglich immer Structured Outputs statt des JSON-Modus zu verwenden“).
Warum es wichtig ist
- Die Validierung bleibt Ihre Aufgabe. Im JSON-Modus parst ein fehlender Key oder eine als String gesendete Zahl problemlos und scheitert erst später. Validieren Sie im Code gegen ein Schema.
- Abschneiden. Erreicht die Antwort
max_tokens, ist das JSON unvollständig. Reasoning-Modelle sind stärker betroffen, weil das Nachdenken dasselbe Budget verbraucht. - Fallback. Der Leitfaden von OpenAI nennt den JSON-Modus für ältere Modelle, auf denen
json_schemanicht verfügbar ist. Die Unterstützung unterscheidet sich je nach Anbieter und Modell. Wird kein Schema akzeptiert, ist der JSON-Modus plus eigene Validierung der Fallback.
Bei BroadNet Inference
Die API-Referenz von BroadNet nennt strukturierte Ausgabe für GLM 5.3 und Qwen3.8 27B. Sie sagt nicht, ob json_object oder json_schema das unterstützte response_format ist, und auch nicht, ob DeepSeek V4.1 Flash und BroadNet Gemma 4 VL 26B eines davon akzeptieren. Testen Sie beides mit Ihrem Modell. Zum Schreiben des Schemas nutzen Sie den JSON-Schema-Generator. Der Beitrag JSON-Modus vs. json_schema behandelt Reparatur und Monitoring, und die Anleitung zu Rechnungen zeigt die JSON-Extraktion aus Bildern.