BroadRouter
Loslegen

Strukturierte Ausgabe (Structured Output)

Aktualisiert

Strukturierte Ausgabe (Structured Output) ist eine Funktion von LLM-APIs, die die Antwort eines Modells auf ein vom Entwickler vorgegebenes Format beschränkt, meist ein JSON Schema, damit Code sie zuverlässig parsen kann. Sie ist strenger als der JSON-Modus, der gültiges JSON garantiert, aber keine bestimmte Struktur.

Auch genannt: strukturierte Ausgabe, strukturierte Ausgaben, JSON-Schema-Ausgabe, Structured Outputs, structured output, JSON schema output, response_format

Code braucht vorhersehbare Eingaben. Strukturierte Ausgabe macht aus dem freien Text eines Modells Daten, denen Ihr Programm vertrauen kann.

So funktioniert es

Es gibt drei Stufen der Kontrolle:

Methode Was Sie bekommen
Im Prompt darum bitten Meist JSON, manchmal mit zusätzlichem Text oder fehlenden Feldern
JSON-Modus Gültiges JSON, beliebige Struktur
Strukturierte Ausgabe mit Schema JSON, das Ihrem Schema entspricht

Im OpenAI-Format ist der JSON-Modus response_format: {"type": "json_object"}. Strukturierte Ausgabe übergibt ein Schema:

"response_format": {
  "type": "json_schema",
  "json_schema": {
    "name": "invoice",
    "strict": true,
    "schema": {
      "type": "object",
      "properties": {
        "vendor": { "type": "string" },
        "total": { "type": "number" }
      },
      "required": ["vendor", "total"],
      "additionalProperties": false
    }
  }
}

Laut der API-Referenz von OpenAI „ensures the model will match your supplied JSON schema“ der Typ json_schema (Übersetzung: „stellt sicher, dass das Modell Ihrem übergebenen JSON Schema entspricht“). Viele Anbieter erreichen das mit Constrained Decoding: Sie schränken bei jedem Schritt ein, welche Tokens das Modell erzeugen darf, sodass eine Ausgabe, die das Schema verletzt, gar nicht entstehen kann.

Warum es wichtig ist

  • Weniger Parse-Fehler. Extraktions-Pipelines, Klassifikatoren und Agenten können Felder direkt lesen.
  • Einfachere Prompts. Das Schema ersetzt lange Formatanweisungen.
  • Keine vollständige Garantie. Laut dem Leitfaden von OpenAI sollte Ihre App weiterhin Ablehnungen, unvollständige Antworten und Fehler behandeln. Eine Antwort, die durch max_tokens abgeschnitten wurde, ist kaputtes JSON, egal was das Schema sagt.

Die Unterstützung unterscheidet sich zwischen OpenAI-kompatiblen APIs. Manche akzeptieren nur json_schema, manche nur json_object, und manche ignorieren das Feld. Prüfen Sie das, bevor Sie sich darauf verlassen.

Bei BroadNet Inference

Die Dokumentation von BroadNet nennt strukturierte Ausgabe für GLM 5.3 und Qwen3.8 27B. Den Anfrageparameter nennt die Dokumentation nicht. Testen Sie response_format also mit Ihrem Modell und behalten Sie in jedem Fall einen JSON-Parser mit Fehlerbehandlung. Der Validator für JSON-Ausgaben von LLMs zeigt, wo eine Antwort bricht, und prüft sie gegen Ihr Schema. Beide Modelle denken zuerst nach. Lassen Sie in max_tokens also Platz für das Reasoning und das JSON.

Strukturierte Ausgabe passt gut zu Vision-Modellen. Die Anleitung zu arabischen Rechnungen sendet ein Bild und fragt die Felder als JSON ab. Für Aktionen statt Antworten verwenden Sie Tool Calling.

Häufige Fehler

  • Im Strict-Modus additionalProperties: false vergessen oder nicht jedes Feld in required aufführen.
  • finish_reason vor dem Parsen nicht prüfen.

Häufige Fragen

Was ist der Unterschied zwischen JSON-Modus und strukturierter Ausgabe?

Der JSON-Modus verspricht nur, dass sich die Antwort als JSON parsen lässt. Strukturierte Ausgabe mit Schema verspricht zusätzlich die Felder, Typen und Pflichtschlüssel, die Sie definiert haben. Laut dem Leitfaden von OpenAI stellen nur Structured Outputs die Einhaltung des Schemas sicher.

Muss ich die Ausgabe trotzdem validieren?

Ja. Eine Antwort kann weiterhin eine Ablehnung sein oder durch max_tokens abgeschnitten werden, und ein Schema kann nicht jede Geschäftsregel abbilden, etwa eine Summe, die den Einzelposten entsprechen muss.

Soll ich strukturierte Ausgabe oder Tool Calling verwenden?

Strukturierte Ausgabe, wenn die endgültige Antwort eine feste Form haben soll. Tool Calling, wenn das Modell Ihren Code bitten soll, etwas zu tun, und danach weitermacht.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen