---
title: "Instructor mit OpenAI-kompatibler base_url (Pydantic)"
description: "Extrahieren Sie mit Instructor Pydantic-Objekte aus BroadNet Inference – per from_openai oder from_provider mit eigener base_url – und wählen Sie den passenden Mode."
url: https://broadrouter.com/de/guides/instructor-structured-output/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/guides/instructor-structured-output/) (aktualisiert am 2026-11-16).

# Strukturierte Ausgabe mit Instructor auf BroadNet Inference

Aktualisiert 2026-11-16

Umschließen Sie einen OpenAI-Client mit base\_url https://inference.broadnet.ai/v1 und Ihrem BroadNet-Schlüssel mit instructor.from\_openai und rufen Sie chat.completions.create mit Ihrer Pydantic-Klasse als response\_model und broadnet/glm-5.3 oder broadnet/qwen3.8-27b als model auf. Für diese beiden Modelle gibt BroadNet Tools und strukturierte Ausgabe an. Mode.TOOLS ist der Standard; Mode.JSON\_SCHEMA funktioniert ebenfalls.

Instructor ist eine Python-Bibliothek, die LLM-Antworten in validierte Pydantic-Objekte verwandelt und bei fehlgeschlagener Validierung erneut anfragen kann. Sie patcht den OpenAI-Client, und ihre Dokumentation behandelt OpenAI-kompatible Server über `base_url`. BroadNet Inference stellt unter `https://inference.broadnet.ai/v1` Chat Completions bereit und gibt Tools und strukturierte Ausgabe für GLM 5.3 und Qwen3.8 27B an. BroadRouter ist die Website von BroadNet selbst; diese Anleitung folgt der Instructor-Dokumentation zum Stand von Version 1.17.0.

## Installation

```bash
pip install instructor
export BROADNET_API_KEY='your-broadnet-key'
```

## Ein Objekt extrahieren

```python
import os
import instructor
from openai import OpenAI
from pydantic import BaseModel

class Invoice(BaseModel):
    vendor: str
    total: float
    currency: str

client = instructor.from_openai(
    OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    mode=instructor.Mode.TOOLS,
)

invoice = client.chat.completions.create(
    model="broadnet/glm-5.3",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": "Acme Trading invoice, total 1,250.00 SAR"}],
)
print(invoice)
```

Instructor macht aus `Invoice` ein Tool-Schema, zwingt das Modell per `tool_choice`, es aufzurufen, und validiert die Argumente. Mit `max_retries` legen Sie fest, wie oft Instructor bei ungültigem Objekt mit der Validierungsmeldung erneut anfragt.

## Oder from\_provider nutzen

```python
pclient = instructor.from_provider(
    "openai/broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
invoice = pclient.create(response_model=Invoice, max_tokens=4000,
                         messages=[{"role": "user", "content": "Acme Trading, 1,250.00 SAR"}])
```

Der Teil `openai/` wählt den Client. Der Rest, `broadnet/glm-5.3`, wird als Modell-ID gesendet.

## Welcher Mode?

| Mode | Was er sendet | Mit BroadNet nutzen |
| --- | --- | --- |
| `Mode.TOOLS` (Standard) | Einen erzwungenen Tool-Call mit Ihrem Schema | Ja, mit GLM 5.3 oder Qwen3.8 27B |
| `Mode.JSON_SCHEMA` | `response_format` vom Typ `json_schema` | Ja, mit GLM 5.3 oder Qwen3.8 27B |
| `Mode.MD_JSON` | Eine einfache Anfrage; JSON wird aus dem Text geparst | Ausweichlösung für andere Modelle; vorher testen |
| `Mode.RESPONSES_TOOLS` | Die Responses API | Nein: BroadNet stellt Chat Completions bereit |

## Bilder

Qwen3.8 27B nimmt neben Tools auch Bilder an und kann ein Foto oder einen Scan also direkt in Ihr Modell einlesen:

```python
import base64
img = base64.b64encode(open("invoice.jpg", "rb").read()).decode()
invoice = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    response_model=Invoice,
    max_tokens=4000,
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "Extract the invoice fields."},
        {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64," + img}},
    ]}],
)
```

Mit einem Pay-as-you-go-Schlüssel zählt ein Bild als Input-Token. Siehe [arabische Rechnungen mit Vision-Modellen lesen](https://broadrouter.com/de/guides/read-arabic-invoices-with-vision/).

## So haben wir das getestet

Am 15. November 2026 haben wir instructor 1.17.0 mit openai 3.3.0 in einer frischen virtuellen Umgebung installiert und die Beispiele oben gegen einen lokalen Mock-Server laufen lassen, der das Chat-Completions-Format von BroadNet spricht. Wir haben die protokollierten Anfragen gelesen. `Mode.TOOLS` sendete das Schema als Tool mit erzwungenem `tool_choice`, `Mode.JSON_SCHEMA` sendete ein Response-Format `json_schema`, und beide lieferten ein gültiges `Invoice`. `from_provider` sendete die Modell-ID unverändert. Unser Mock schreibt kein JSON als Freitext, daher haben wir `Mode.MD_JSON` nicht getestet, und das Bildbeispiel haben wir nicht gesendet. Wir hatten keinen BroadNet-Schlüssel und haben daher keine echte Modellausgabe getestet.

## Fehlerbehebung

-   **Validierungs-Retries, die nie gelingen.** Bei GLM 5.3 und Qwen3.8 27B zählt das Reasoning zu `max_tokens`. Ein niedriges Limit kann die Tool-Argumente abschneiden. Erhöhen Sie es. [Warum Antworten leer zurückkommen](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).
-   **400 bei der Anfrage.** Prüfen Sie, ob Sie GLM 5.3 oder Qwen3.8 27B nutzen. Wird ein erzwungenes `tool_choice` abgelehnt, versuchen Sie `Mode.JSON_SCHEMA`.
-   **401.** Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht.
-   **404.** `base_url` muss auf `/v1` enden. GLM 5.3 und Qwen3.8 27B brauchen eine Aufladung; das Guthaben von $5 deckt sie nicht ab.
-   **429 bei Batch-Extraktion.** Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig laufende. Jeder Validierungs-Retry ist eine weitere Anfrage. Siehe [Fehlercodes und Retries](https://broadrouter.com/de/guides/errors-and-retries/).

## Begriffe in dieser Anleitung

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[Chat Completions API](https://broadrouter.com/de/glossary/chat-completions-api/)

Die Chat Completions API ist der HTTP-Endpoint von OpenAI, POST /v1/chat/completions, der einen Modellnamen und eine Liste von Nachrichten mit Rollen entgegennimmt und die nächste Nachricht des Modells zurückgibt. Ihr Format für Anfrage und Antwort wurde zum gemeinsamen Standard, den OpenAI-kompatible Anbieter und SDKs übernehmen.

[Pay-as-you-go](https://broadrouter.com/de/glossary/pay-as-you-go/)

Pay-as-you-go ist ein Preismodell, bei dem Sie nur für tatsächliche Nutzung zahlen, gemessen pro Einheit wie Tokens, Anfragen oder Audiominuten, ohne Abonnement oder Mindestabnahme. Die meisten LLM-APIs rechnen so ab, aus einem vorausbezahlten Guthaben oder per regelmäßiger Rechnung.

[Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/)

Ein Rate Limit ist eine Obergrenze, die eine API festlegt, wie stark ein Client sie in einem Zeitfenster nutzen darf, etwa Anfragen pro Minute oder Tokens pro Minute. Anfragen über dem Limit werden abgelehnt, meist mit HTTP 429 Too Many Requests, bis die Nutzung wieder darunter liegt.

[Concurrency (Parallelität)](https://broadrouter.com/de/glossary/concurrency/)

Concurrency (Parallelität) ist die Zahl der Anfragen, die ein Client gleichzeitig offen hat. LLM-APIs begrenzen sie oft pro Schlüssel oder Plan, getrennt von den Anfragen pro Minute, weil jede offene Anfrage GPU-Kapazität belegt, bis ihre Antwort fertig ist.

[Prepaid-Guthaben (Prepaid Credit)](https://broadrouter.com/de/glossary/prepaid-credit/)

Prepaid-Guthaben ist Geld, das vor der Nutzung auf ein API-Konto eingezahlt wird. Jede Anfrage zieht ihre Kosten vom Guthaben ab, und wenn es aufgebraucht ist, stoppen abgerechnete Anfragen, bis Sie aufladen. So sind die Ausgaben auf das eingezahlte Geld begrenzt.

[Strukturierte Ausgabe (Structured Output)](https://broadrouter.com/de/glossary/structured-output/)

Strukturierte Ausgabe (Structured Output) ist eine Funktion von LLM-APIs, die die Antwort eines Modells auf ein vom Entwickler vorgegebenes Format beschränkt, meist ein JSON Schema, damit Code sie zuverlässig parsen kann. Sie ist strenger als der JSON-Modus, der gültiges JSON garantiert, aber keine bestimmte Struktur.

## Häufige Fragen

### Welchen Instructor-Mode nutze ich mit BroadNet?

Mode.TOOLS, den Standard, mit GLM 5.3 oder Qwen3.8 27B, für die BroadNet Tools und strukturierte Ausgabe angibt. Mode.JSON\_SCHEMA sendet stattdessen ein response\_format vom Typ json\_schema. Beide lieferten in unserem Test mit einem Mock-Server gültige Objekte.

### Kann ich Mode.RESPONSES\_TOOLS verwenden?

Nein. Laut Instructor-Dokumentation sollten Sie ihn nur wählen, wenn der Server die Responses API implementiert. BroadNet stellt nur Chat Completions bereit.

### Funktioniert Instructor mit DeepSeek V4.1 Flash oder Gemma auf BroadNet?

BroadNet gibt für diese Modelle weder Tools noch strukturierte Ausgabe an. Mode.MD\_JSON fordert JSON als reinen Text an und parst es; das kann funktionieren, testen Sie es aber mit Ihren eigenen Daten, bevor Sie sich darauf verlassen.

### Wie schreibe ich den Modell-String für from\_provider?

Nutzen Sie openai/broadnet/glm-5.3. Instructor trennt das erste Segment als Provider ab, und in unserem Test kam broadnet/glm-5.3 unverändert beim Server an.

## Verwandte Anleitungen

-   [OpenAI Python SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-python-sdk/)
-   [Pydantic AI mit BroadNet Inference nutzen (OpenAICompatibleProvider)](https://broadrouter.com/de/guides/pydantic-ai-openai-compatible/)
-   [Arabische Rechnungen und Belege mit einem Vision-Modell auslesen](https://broadrouter.com/de/guides/read-arabic-invoices-with-vision/)
-   [Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [Alle Tools, die mit BroadNet Inference funktionieren (auf Englisch)](https://broadrouter.com/integrations/): SDKs, Coding-Agenten, Chat-Oberflächen und Automatisierungstools, jeweils mit den genauen Einstellungen

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-instructor-structured-output&utm_content=page-cta) ·

**Quellen**

-   [Instructor-Dokumentation, OpenAI und OpenAI-kompatible Server (geprüft am 2026-11-15)](https://python.useinstructor.com/integrations/openai/)
-   [PyPI, instructor 1.17.0 (geprüft am 2026-11-15)](https://pypi.org/project/instructor/)
-   [API-Referenz von BroadNet Inference (geprüft am 2026-11-15) (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-instructor-structured-output&utm_content=sources)
