BroadRouter
Loslegen

JSON-Modus (JSON mode)

Aktualisiert

Der JSON-Modus ist eine Einstellung von LLM-APIs, in APIs im OpenAI-Stil response_format {"type": "json_object"}, die dafür sorgt, dass die Antwort des Modells gültiges, parsebares JSON ist. Anders als Structured Outputs mit einem JSON Schema garantiert er nicht, welche Keys, Typen oder Werte das Objekt enthält.

Auch genannt: JSON-Modus, JSON Mode, JSON-Ausgabe, JSON-Antwortmodus, json_object, JSON mode, JSON output mode, JSON response mode

Der JSON-Modus beantwortet eine Frage: Wird json.loads() funktionieren? Die zweite beantwortet er nicht: Ist das das Objekt, das mein Code erwartet?

So funktioniert es

In der Chat Completions API schalten Sie ihn mit einem einzigen Feld ein:

{"response_format": {"type": "json_object"},
 "messages": [
   {"role": "system", "content": "Return JSON with keys name and email."},
   {"role": "user", "content": "Reach me at Sara, sara@example.com"}]}

Die API-Referenz von OpenAI nennt das „the older JSON mode, which ensures the message the model generates is valid JSON“ (Übersetzung: „den älteren JSON-Modus, der sicherstellt, dass die vom Modell erzeugte Nachricht gültiges JSON ist“). Zwei Regeln gehören dazu. Sie müssen in einer Nachricht nach JSON fragen: Laut Leitfaden von OpenAI „will throw an error if the string ‘JSON’ does not appear somewhere in the context“ (Übersetzung: „gibt [die API] einen Fehler aus, wenn die Zeichenfolge ‚JSON‘ nirgends im Kontext vorkommt“). Und die Struktur bestimmt das Modell. Der Leitfaden hält fest, dass der JSON-Modus „will not guarantee the output matches any specific schema“ (Übersetzung: „nicht garantiert, dass der Output einem bestimmten Schema entspricht“).

Strukturierte Ausgabe ist die strengere Option. Sie übergibt ein JSON Schema mit {"type": "json_schema", ...}, und das Modell ist daran gebunden.

JSON-Modus (json_object) Structured Outputs (json_schema)
Gültiges JSON ja ja
Pflicht-Keys und Typen nein ja
Sie liefern ein Schema nein ja
„JSON“ muss im Prompt stehen ja (OpenAI) nein

OpenAI empfiehlt, „always using Structured Outputs instead of JSON mode when possible“ (Übersetzung: „wenn möglich immer Structured Outputs statt des JSON-Modus zu verwenden“).

Warum es wichtig ist

  • Die Validierung bleibt Ihre Aufgabe. Im JSON-Modus parst ein fehlender Key oder eine als String gesendete Zahl problemlos und scheitert erst später. Validieren Sie im Code gegen ein Schema.
  • Abschneiden. Erreicht die Antwort max_tokens, ist das JSON unvollständig. Reasoning-Modelle sind stärker betroffen, weil das Nachdenken dasselbe Budget verbraucht.
  • Fallback. Der Leitfaden von OpenAI nennt den JSON-Modus für ältere Modelle, auf denen json_schema nicht verfügbar ist. Die Unterstützung unterscheidet sich je nach Anbieter und Modell. Wird kein Schema akzeptiert, ist der JSON-Modus plus eigene Validierung der Fallback.

Bei BroadNet Inference

Die API-Referenz von BroadNet nennt strukturierte Ausgabe für GLM 5.3 und Qwen3.8 27B. Sie sagt nicht, ob json_object oder json_schema das unterstützte response_format ist, und auch nicht, ob DeepSeek V4.1 Flash und BroadNet Gemma 4 VL 26B eines davon akzeptieren. Testen Sie beides mit Ihrem Modell. Zum Schreiben des Schemas nutzen Sie den JSON-Schema-Generator. Der Beitrag JSON-Modus vs. json_schema behandelt Reparatur und Monitoring, und die Anleitung zu Rechnungen zeigt die JSON-Extraktion aus Bildern.

Häufige Fragen

Ist der JSON-Modus dasselbe wie Structured Outputs?

Nein. Laut Leitfaden von OpenAI erzeugen beide gültiges JSON, aber nur Structured Outputs stellen sicher, dass das Schema eingehalten wird. Der JSON-Modus kann jedes gültige Objekt zurückgeben.

Warum meldet der JSON-Modus einen Fehler wegen des Wortes JSON?

OpenAI verlangt, dass irgendwo in den Nachrichten die Anweisung steht, JSON zu erzeugen, und gibt einen Fehler zurück, wenn die Zeichenfolge „JSON“ nicht im Kontext vorkommt.

Kann der JSON-Modus trotzdem kaputtes JSON liefern?

Ja, wenn die Antwort durch max_tokens oder das Kontextlimit abgeschnitten wird. Prüfen Sie finish_reason, bevor Sie parsen.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen