Ein Prompt mit „Antworte in JSON“ überlässt die Struktur dem Zufall. Ein JSON Schema schreibt die Struktur fest, sodass eine Maschine sie prüfen kann.
So funktioniert es
Die Spezifikation hat zwei Hauptteile: Core, der „defines the basic foundation of JSON Schema“ (Übersetzung: „die grundlegende Basis von JSON Schema definiert“), und Validation, der „defines the validation keywords“ (Übersetzung: „die Validierungs-Keywords definiert“). Die aktuelle Version ist 2020-12; die vorherige war 2019-09.
{
"type": "object",
"properties": {
"name": {"type": "string"},
"amount": {"type": "number", "minimum": 0},
"currency": {"type": "string", "enum": ["SAR", "AED", "USD"]},
"note": {"type": ["string", "null"]}
},
"required": ["name", "amount", "currency", "note"],
"additionalProperties": false
}
LLM-APIs verwenden Schemas an zwei Stellen. Tool-Definitionen legen eines in parameters ab, um die Argumente zu beschreiben. Strukturierte Ausgabe sendet eines in response_format als {"type": "json_schema", "json_schema": {...}}; laut OpenAI „ensures the model will match your supplied JSON schema“ (Übersetzung: „stellt das sicher, dass das Modell Ihrem übergebenen JSON Schema entspricht“).
Der Strict Mode von OpenAI akzeptiert nur eine Teilmenge. Aus dem Abschnitt zu unterstützten Schemas:
- Typen: string, number, boolean, integer, object, array, enum und anyOf.
- Die Wurzel muss ein Objekt sein und darf kein
anyOfverwenden. additionalProperties: falseund jedes Feld inrequired; ein Feld machen Sie optional, indem Sienullerlauben, wienoteoben.- Bis zu 5000 Objekt-Properties und 10 Verschachtelungsebenen sowie insgesamt bis zu 1000 Enum-Werte.
- Nicht unterstützt:
allOf,not,dependentRequired,dependentSchemas,if,then,else.
Warum es wichtig ist
- Validierung. Dasselbe Schema, das das Modell lenkt, prüft dessen Antwort in Ihrem Code. Eine fehlgeschlagene Prüfung liefert eine genaue Fehlermeldung, die Sie zurückschicken können.
- Portabilität. Ein Schema, das sich an die strenge Teilmenge hält, funktioniert bei mehr Anbietern als eines, das jedes Keyword nutzt.
- Tokens. Schemas in Tool-Definitionen werden bei jeder Anfrage als Input gesendet. Lange Beschreibungen kosten in jeder Runde Tokens.
Bei BroadNet Inference
Die API-Referenz von BroadNet dokumentiert Tool Calling und strukturierte Ausgabe für GLM 5.3 und Qwen3.8 27B, aber nicht, welche Schema-Keywords durchgesetzt werden. Halten Sie Schemas bei der einfachen Teilmenge oben und validieren Sie jede Antwort. Erstellen Sie ein Schema mit dem JSON-Schema-Generator, prüfen Sie Antworten mit dem Validator für JSON-Output von LLMs und finden Sie im Beitrag zur strukturierten Ausgabe ein vollständiges Beispiel. Bei anderen Modellen fragen Sie im Prompt nach JSON und validieren die Antwort; der JSON-Modus ist bei BroadNet nicht dokumentiert, testen Sie ihn also, bevor Sie sich darauf verlassen.
Häufige Fehler
allOfoder bedingte Keywords verwenden und annehmen, dass der Server sie durchsetzt.- Felder im Strict Mode optional machen, indem man sie in
requiredweglässt, stattnullzu erlauben.