---
title: "OpenAI Python SDK mit eigener base_url (BroadNet) | BroadRouter"
description: "Das offizielle OpenAI Python SDK mit einer geänderten base_url auf BroadNet Inference umstellen: installieren, Schlüssel setzen, erste Anfrage, Antwort streamen."
url: https://broadrouter.com/de/guides/openai-python-sdk/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/guides/openai-python-sdk/) (aktualisiert am 2026-11-16).

# OpenAI Python SDK mit BroadNet Inference nutzen

Aktualisiert 2026-11-16

Installieren Sie das Paket openai und erstellen Sie den Client mit base\_url = https://inference.broadnet.ai/v1 und Ihrem BroadNet-Schlüssel als api\_key. Jeder chat.completions-Aufruf funktioniert unverändert; nur die Modell-ID ändert sich, etwa broadnet/deepseek-v4.1-flash. BroadNet bietet Chat Completions und Transkriptionen, nicht die Responses API.

Sie brauchen ein Konto bei BroadNet Inference und einen Inferenz-Schlüssel. Neue Konten starten mit $5 Guthaben, ohne Karte; [legen Sie eines auf inference.broadnet.ai an](https://inference.broadnet.ai/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-openai-python-sdk&utm_content=body). Die Konsole zeigt einen Schlüssel nur einmal an und speichert nur seinen Hash. Kopieren Sie ihn deshalb direkt in Ihre Umgebung.

## 1\. Installieren und Schlüssel setzen

Das aktuelle Paket `openai` (3.x) erfordert Python 3.10 oder neuer.

```bash
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'
```

## 2\. Erste Anfrage senden

Speichern Sie dies als `first_request.py`:

```python
from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)
```

Starten Sie es mit `python first_request.py`. Das Beispiel verwendet `broadnet/gemma-4-26b-a4b`, weil dieses Modell mit dem kostenlosen Guthaben läuft. Die anderen Chatmodelle stehen nach einer Aufladung zur Verfügung.

## 3\. Zum gewünschten Modell wechseln

Ändern Sie nur `model`:

| Sie möchten | Modell-ID |
| --- | --- |
| Unbegrenzt mit einem Flatrate-Plan, 1M Kontext | `broadnet/deepseek-v4.1-flash` |
| Tools und strukturierte Ausgabe, 1M Kontext | `broadnet/glm-5.3` |
| Arabische Texte und Bilder | `broadnet/qwen3.8-27b` |
| Niedriger Preis, läuft mit dem kostenlosen Guthaben | `broadnet/gemma-4-26b-a4b` |

DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken vor der Antwort nach (Reasoning), und dieses Reasoning zählt zu `max_tokens`. Geben Sie ihnen 1.000 Tokens oder mehr. [Hier steht, warum ein kleines Limit eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).

## 4\. Die Antwort streamen

```python
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)
```

Mit `include_usage` kommen die Token-Zahlen im letzten Chunk, der keine `choices` enthält. [Die Streaming-Anleitung](https://broadrouter.com/de/guides/streaming-chat-completions/) behandelt abgebrochene Verbindungen.

## 5\. Die Request-ID aufbewahren

Jede Antwort enthält einen Header `X-Request-ID`. Loggen Sie ihn, denn der Support von BroadNet fragt danach. Geparste Antworten stellen ihn als `response._request_id` bereit. So lesen Sie ihn zusammen mit anderen Headern:

```python
raw = client.chat.completions.with_raw_response.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()
```

Pay-as-you-go-Schlüssel erlauben 30 Anfragen pro Minute und 4 gleichzeitig laufende. [Was jeder Fehlercode bedeutet und wann ein Retry sinnvoll ist](https://broadrouter.com/de/guides/errors-and-retries/).

## Fehlerbehebung

-   **`AuthenticationError` (401).** Der Schlüssel ist falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht. Prüfen Sie, ob `BROADNET_API_KEY` in dem Prozess gesetzt ist, der Ihren Code ausführt.
-   **`NotFoundError` (404).** Prüfen Sie, ob `base_url` auf `/v1` endet und ob Sie `chat.completions` aufrufen, nicht `responses`. Prüfen Sie danach die Modell-ID mit dem Präfix `broadnet/`.
-   **Kostenpflichtiges Modell schlägt bei einem neuen Konto fehl.** Das Startguthaben von $5 deckt BroadNet Gemma 4 VL 26B (`broadnet/gemma-4-26b-a4b`) und die beiden Modelle von BroadNet Transcribe ab. Laden Sie auf, um die anderen Chatmodelle zu nutzen: DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B.
-   **Leeres `content`.** Reasoning zählt zu `max_tokens`. Erhöhen Sie den Wert auf 1.000 oder mehr. [Warum Antworten leer zurückkommen](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).
-   **`RateLimitError` (429).** Sie haben das Limit pro Minute oder für gleichzeitige Anfragen überschritten. Das SDK versucht es standardmäßig zweimal erneut; mit `max_retries` am Client ändern Sie das.
-   **Fehler mit eigenem HTTP-Client nach einem Upgrade.** Das SDK 3.x verwendet HTTPX2. Wenn Sie einen eigenen `http_client` übergeben, folgen Sie der Migrationsanleitung des SDK für HTTPX2.

## Begriffe in dieser Anleitung

[Token](https://broadrouter.com/de/glossary/token/)

Ein Token ist die Texteinheit, die ein Sprachmodell liest und schreibt: ein Wort, ein Wortteil, ein Satzzeichen oder eine Bytefolge, die der Tokenizer des Modells erzeugt. LLM-APIs zählen, begrenzen und berechnen die Nutzung meist in Tokens.

[Concurrency (Parallelität)](https://broadrouter.com/de/glossary/concurrency/)

Concurrency (Parallelität) ist die Zahl der Anfragen, die ein Client gleichzeitig offen hat. LLM-APIs begrenzen sie oft pro Schlüssel oder Plan, getrennt von den Anfragen pro Minute, weil jede offene Anfrage GPU-Kapazität belegt, bis ihre Antwort fertig ist.

[Pay-as-you-go](https://broadrouter.com/de/glossary/pay-as-you-go/)

Pay-as-you-go ist ein Preismodell, bei dem Sie nur für tatsächliche Nutzung zahlen, gemessen pro Einheit wie Tokens, Anfragen oder Audiominuten, ohne Abonnement oder Mindestabnahme. Die meisten LLM-APIs rechnen so ab, aus einem vorausbezahlten Guthaben oder per regelmäßiger Rechnung.

[Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/)

Ein Rate Limit ist eine Obergrenze, die eine API festlegt, wie stark ein Client sie in einem Zeitfenster nutzen darf, etwa Anfragen pro Minute oder Tokens pro Minute. Anfragen über dem Limit werden abgelehnt, meist mit HTTP 429 Too Many Requests, bis die Nutzung wieder darunter liegt.

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[API-Schlüssel (API Key)](https://broadrouter.com/de/glossary/api-key/)

Ein API-Schlüssel ist eine geheime Zeichenfolge, die einen Client beim Aufruf einer API identifiziert und autorisiert. LLM-APIs erwarten ihn meist im Header Authorization: Bearer, und wer den Schlüssel besitzt, kann Anfragen stellen, die dem Konto des Inhabers berechnet werden.

[LLM-Flatrate (Flat-rate LLM plan)](https://broadrouter.com/de/glossary/flat-rate-llm-plan/)

Eine LLM-Flatrate ist ein Plan, der für den Zugang zu einer Sprachmodell-API einen Festpreis pro Zeitraum, etwa pro Monat, berechnet statt pro Token. Solche Pläne begrenzen meist etwas anderes, etwa Parallelität, Geschwindigkeit, Modelle oder Nutzungsfenster. Die Limits zählen also so viel wie der Preis.

[Prepaid-Guthaben (Prepaid Credit)](https://broadrouter.com/de/glossary/prepaid-credit/)

Prepaid-Guthaben ist Geld, das vor der Nutzung auf ein API-Konto eingezahlt wird. Jede Anfrage zieht ihre Kosten vom Guthaben ab, und wenn es aufgebraucht ist, stoppen abgerechnete Anfragen, bis Sie aufladen. So sind die Ausgaben auf das eingezahlte Geld begrenzt.

## Häufige Fragen

### Brauche ich ein anderes SDK?

Nein. BroadNet Inference spricht die Formate von OpenAI für Chat Completions und Audio-Transkription, daher funktioniert das offizielle Paket openai mit einer anderen base\_url.

### Kann ich weiterhin OPENAI\_API\_KEY verwenden?

Das geht. Eine eigene Variable BROADNET\_API\_KEY verhindert aber, dass Sie versehentlich den Schlüssel eines Anbieters an einen anderen senden.

### Liest das SDK OPENAI\_BASE\_URL aus?

Ja. Wenn Sie keine base\_url übergeben, nutzt der Client OPENAI\_BASE\_URL. Setzen Sie diese auf https://inference.broadnet.ai/v1 und OPENAI\_API\_KEY auf Ihren BroadNet-Schlüssel, dann braucht OpenAI() keine Argumente.

### Kann ich client.responses.create mit BroadNet verwenden?

Nein. Die README des SDK stellt die Responses API in den Vordergrund, die Dokumentation von BroadNet nennt aber nur Chat Completions und Audio-Transkription. Verwenden Sie client.chat.completions.create.

## Verwandte Anleitungen

-   [OpenAI Node.js SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-node-sdk/)
-   [Chat Completions streamen und abgebrochene Verbindungen behandeln](https://broadrouter.com/de/guides/streaming-chat-completions/)
-   [Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [Fehlercodes von BroadNet Inference: Wann ist ein Retry sinnvoll?](https://broadrouter.com/de/guides/errors-and-retries/)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-openai-python-sdk&utm_content=page-cta) ·

**Quellen**

-   [API-Referenz von BroadNet Inference, erste Anfrage (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-openai-python-sdk&utm_content=sources#base-url)
-   [OpenAI-Python-Bibliothek auf PyPI (3.x, Python 3.10+, geprüft am 2026-11-14)](https://pypi.org/project/openai/)
