---
title: "Zu einer OpenAI-kompatiblen API wechseln: Checkliste"
description: "base_url zu ändern ist der leichte Teil. Modell-IDs, Reasoning-Tokens, Usage im Stream, Fehler, Rate Limits und Schlüssel gehen kaputt. Checkliste mit Code."
url: https://broadrouter.com/de/blog/openai-compatible-api-migration-checklist/
lang: de
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/blog/openai-compatible-api-migration-checklist/) (aktualisiert am 2026-11-16).

# Wechsel zu einer OpenAI-kompatiblen API: die Migrations-Checkliste

Vom Team von BroadNet Inference · 5 Min. Lesezeit · Veröffentlicht 2026-11-14 · Aktualisiert 2026-11-16

Für den Wechsel zu einer OpenAI-kompatiblen API ändern Sie drei Einstellungen (base\_url, api\_key und model) und prüfen dann, was sich unterscheidet: Modell-IDs, wie Reasoning-Tokens auf max\_tokens angerechnet werden, wie Streams die Usage melden, welche Fehler Sie wiederholen sollten, Rate Limits und Schlüsselsicherheit. Für BroadNet Inference lautet die Basis-URL https://inference.broadnet.ai/v1.

## Das Wichtigste in Kürze

-   Drei Einstellungen ändern sich: `base_url`, `api_key` und `model`.
-   Erfassen Sie vor dem Wechsel jeden Endpoint und jedes Feld, das Ihre App nutzt, und testen Sie danach jedes einzeln.
-   Reasoning-Modelle rechnen das Nachdenken auf `max_tokens` an; kleine Limits liefern leere Antworten.
-   Fordern Sie die Usage im Stream mit `stream_options` an, sonst sieht Ihr Kosten-Tracking nichts mehr.
-   Legen Sie vor dem Umzug des Produktions-Traffics für jeden Fehlercode fest, ob wiederholt oder behoben wird.
-   Lassen Sie alten und neuen Anbieter einen Tag lang parallel mit echtem Traffic laufen, bevor Sie umschalten.

**Auf dieser Seite**

1.  0\. Was nutzt Ihre App heute?
2.  1\. Welche drei Einstellungen ändern sich?
3.  2\. Wie lauten die neuen Modell-IDs?
4.  3\. Warum kommen die Antworten nach dem Wechsel leer zurück?
5.  4\. Meldet Streaming weiterhin die Usage?
6.  5\. Welche Fehler sollten Sie wiederholen?
7.  6\. Welche Rate Limits gelten neu?
8.  7\. Passen Ihre Prompts noch?
9.  8\. Was ist mit Schlüsseln und Datenspeicherung?
10.  9\. Wie schalten Sie sicher um?
11.  Welche Fehler passieren bei der Migration häufig?
12.  Wo BroadNet Inference einzuordnen ist

Die meisten LLM-Anbieter sprechen inzwischen das [Format der OpenAI-API](https://broadrouter.com/de/glossary/openai-compatible-api/). Dadurch sieht ein Wechsel wie eine Änderung in einer Zeile aus, und für eine erste Antwort stimmt das auch. Für Produktions-Traffic sollten Sie diese Liste abarbeiten. Jeder Punkt geht auf eine reale Art zurück, wie Migrationen scheitern.

## 0\. Was nutzt Ihre App heute?

Bevor Sie etwas ändern, notieren Sie, wovon Ihre App abhängt. Durchsuchen Sie den Code nach jedem Aufruf des SDK und listen Sie ihn auf. Falls Sie die Whisper-API von OpenAI aufrufen: OpenAI gibt an, dass `whisper-1` am 26. Februar 2027 abgeschaltet wird; [Alternativen zur Whisper-API](https://broadrouter.com/de/blog/whisper-api-alternative/) behandelt die Audio-Seite.

| Funktion | Wo Sie suchen | Test nach dem Wechsel |
| --- | --- | --- |
| Chat Completions | Jedes `chat.completions.create` | Gleiche Prompts, Antworten vergleichen |
| Streaming | `stream=True` | Chunks kommen an, Ende mit `[DONE]`, Usage vorhanden |
| Tool Calling | `tools=` | Tool-Aufrufe werden geparst und ausgeführt |
| Strukturierte Ausgabe | `response_format=` | JSON besteht die Validierung gegen Ihr Schema |
| Bilder | Bildteile in Nachrichten | Modell akzeptiert sie |
| Audio-Transkription | `audio.transcriptions` | Text und Sprache korrekt |
| Embeddings, Dateien, Batches | Andere Endpoints | Prüfen, ob der Anbieter sie überhaupt anbietet |

Die letzte Zeile ist wichtig. „OpenAI-kompatibel“ deckt meist zuerst Chat Completions ab. Der Katalog von BroadNet Inference führt Chat-Modelle unter `/v1/chat/completions` und Speech-to-Text-Modelle unter `/v1/audio/transcriptions`; wenn Sie andere Endpoints nutzen, belassen Sie diese bei Ihrem bisherigen Anbieter oder suchen Sie einen Ersatz.

## 1\. Welche drei Einstellungen ändern sich?

```python
from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)
```

Wie die Einstellung für die [Basis-URL](https://broadrouter.com/de/glossary/base-url/) heißt, hängt von der Bibliothek ab: `base_url` im Python SDK und in ChatOpenAI von LangChain, `baseURL` im Node.js SDK. Das Python SDK liest laut seinem [README](https://github.com/openai/openai-python) außerdem die Umgebungsvariable `OPENAI_BASE_URL`. Prüfen Sie Ihre Umgebung auf einen veralteten Wert, sonst landen Anfragen ohne Fehlermeldung beim alten Anbieter.

Bewahren Sie [API-Schlüssel](https://broadrouter.com/de/glossary/api-key/) in Umgebungsvariablen oder einem Secret Manager auf, nie im Code. Einrichtung je SDK: [Python](https://broadrouter.com/de/guides/openai-python-sdk/), [Node.js](https://broadrouter.com/de/guides/openai-node-sdk/), [LangChain](https://broadrouter.com/de/guides/langchain-openai-base-url/). Um eine erste Anfrage von Hand zu bauen und zu testen, nutzen Sie den [API-Request-Builder](https://broadrouter.com/tools/api-request-builder/). Um Basis-URL, Schlüssel und Modell in bestehendem Code anzupassen, fügen Sie ihn in die [Migrationshilfe von OpenAI zu BroadNet](https://broadrouter.com/tools/openai-to-broadnet-migration/) ein; sie listet auch auf, was Sie prüfen sollten.

## 2\. Wie lauten die neuen Modell-IDs?

Jeder Anbieter benennt Modelle auf seine Weise. Bei BroadNet Inference:

| Modell | ID |
| --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` |
| GLM 5.3 | `broadnet/glm-5.3` |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` |
| Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` |

Legen Sie die Modell-ID in die Konfiguration, nicht in den Code. Ein späterer Wechsel ist dann ein Deployment und kein Umbau. Limits und Preise jedes Modells stehen auf seiner Seite: [DeepSeek V4.1 Flash](https://broadrouter.com/de/models/deepseek-v4.1-flash/), [GLM 5.3](https://broadrouter.com/de/models/glm-5.3/), [Qwen3.8 27B](https://broadrouter.com/de/models/qwen3.8-27b/) und [Gemma 4 VL 26B](https://broadrouter.com/de/models/gemma-4-vl-26b/).

## 3\. Warum kommen die Antworten nach dem Wechsel leer zurück?

Das ist die häufigste Überraschung. DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken nach, bevor sie antworten, und **die [Reasoning-Tokens](https://broadrouter.com/de/glossary/reasoning-tokens/) werden auf [`max_tokens`](https://broadrouter.com/de/glossary/max-tokens/) angerechnet**. Ein Limit von 256, das bei einem Modell ohne Reasoning funktioniert hat, kann vollständig für das Nachdenken draufgehen, und die Antwort bleibt leer. Lassen Sie 1.000 Tokens oder mehr Spielraum, oder setzen Sie `reasoning_effort` bei einfachen Aufgaben auf `low`. [Ausführliche Erklärung](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).

## 4\. Meldet Streaming weiterhin die Usage?

[Streams](https://broadrouter.com/de/glossary/streaming/) nutzen Server-Sent Events und enden mit `data: [DONE]`. Die Token-Usage kommt nur dann im letzten Chunk an, wenn Sie danach fragen:

```python
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash", messages=messages,
    stream=True, stream_options={"include_usage": True},
)
```

Ohne diese Option zeigt Ihr Kosten-Dashboard null an. Endet ein Stream vor `[DONE]`, behandeln Sie ihn als unvollständig. [Leitfaden zu Streaming](https://broadrouter.com/de/guides/streaming-chat-completions/).

## 5\. Welche Fehler sollten Sie wiederholen?

| Status | Bedeutung | Maßnahme |
| --- | --- | --- |
| 401 | Falscher oder widerrufener Schlüssel, oder Pay-as-you-go-Kontingent aufgebraucht | Beheben, nicht wiederholen |
| 402 | Guthaben oder Budget | Aufladen, nicht wiederholen |
| 403 | Abgelehnt durch Modell-, Routen- oder IP-Richtlinie | Die Abweichung beheben |
| 413 | Anfrage zu groß | Verkleinern, nicht wiederholen |
| 429 | Raten-, Parallelitäts- oder Ausgabenlimit | Backoff, dann wiederholen |
| 5xx | Serverseitig | Mit begrenztem Backoff wiederholen |

Das offizielle Python SDK wiederholt einige Fehler bereits selbst: Laut README werden Verbindungsfehler sowie Antworten mit 408, 409, 429 und 5xx standardmäßig zweimal mit kurzem exponentiellem Backoff wiederholt. Setzen Sie `max_retries` ausdrücklich, damit das Verhalten eine Entscheidung ist und kein Standardwert. Protokollieren Sie die Request-ID jeder Antwort, damit der Support ein Problem nachverfolgen kann. [Alle Codes](https://broadrouter.com/de/guides/errors-and-retries/).

## 6\. Welche Rate Limits gelten neu?

Kennen Sie die neuen Limits, bevor Traffic ankommt. Ein Pay-as-you-go-Schlüssel von BroadNet erlaubt 30 Anfragen pro Minute und 4 gleichzeitige Anfragen. Unbegrenzte Pläne verarbeiten eine Anfrage gleichzeitig pro Session. Dimensionieren Sie Ihren Worker-Pool entsprechend, sonst sehen Sie schon am ersten Tag 429-Fehler; der [Rate-Limit-Rechner](https://broadrouter.com/tools/llm-rate-limit-calculator/) übernimmt die Dimensionierung. [Dimensionierung für parallele Agenten](https://broadrouter.com/de/blog/run-parallel-coding-agents-flat-rate/).

## 7\. Passen Ihre Prompts noch?

Prüfen Sie die Kontextfenster: 1.048.576 Tokens bei DeepSeek V4.1 Flash und GLM 5.3, 262.144 bei Qwen3.8 27B, 32.768 bei Gemma 4 VL 26B. Ein Prompt, der in Ihr altes Modell passte, passt vielleicht nicht in ein kleineres Fenster; prüfen Sie das mit dem [Kontextfenster-Rechner](https://broadrouter.com/tools/context-window-calculator/). Stellen Sie gleichbleibende Prompt-Inhalte an den Anfang, um von [Preisen für gecachten Input](https://broadrouter.com/de/blog/cached-input-tokens-explained/) zu profitieren.

## 8\. Was ist mit Schlüsseln und Datenspeicherung?

Binden Sie Produktionsschlüssel mit einer [IP-Allowlist](https://broadrouter.com/de/guides/api-keys-ip-allow-lists/) an die IPs Ihrer Server. Fragen Sie den neuen Anbieter, was er speichert; siehe die [ZDR-Checkliste](https://broadrouter.com/de/blog/zero-data-retention-llm-api-checklist/).

## 9\. Wie schalten Sie sicher um?

1.  Schicken Sie eine Kopie der echten Anfragen eines Tages an beide Anbieter.
2.  Vergleichen Sie die Antworten an einer Stichprobe, dazu Latenz, Fehler und Kosten pro Anfrage.
3.  Verlagern Sie 10 % des Traffics, beobachten Sie einen Tag lang, dann verlagern Sie den Rest.
4.  Lassen Sie den alten Anbieter eine Woche lang als Fallback konfiguriert.

Wenn Sie viele Dienste betreiben, können Sie mit einem Proxy wie [LiteLLM](https://broadrouter.com/de/guides/litellm-proxy-custom-provider/) den Anbieter an einer Stelle wechseln statt in jeder App.

## Welche Fehler passieren bei der Migration häufig?

-   **Fehlendes `/v1` in der Basis-URL.** Anfragen liefern 404. Verwenden Sie die vollständige URL.
-   **Alte Modellnamen in der Konfiguration.** Der neue Anbieter kennt sie nicht.
-   **Anbieterspezifische Felder in den Anfragen.** Felder, die nur der alte Anbieter verstand, werden womöglich abgelehnt oder ignoriert. Entfernen Sie sie aus generischen Clients.
-   **Nur einen Prompt testen.** Arbeiten Sie die Bestandsaufnahme aus Schritt 0 Funktion für Funktion ab.
-   **An einem Freitag umschalten.** Planen Sie Zeit ein, um einen ganzen Tag echten Traffic zu beobachten.

## Wo BroadNet Inference einzuordnen ist

BroadNet Inference ist ein direkter Ersatz für Apps, die Chat Completions und Audio-Transkription über die OpenAI-SDKs nutzen: Ändern Sie drei Einstellungen und arbeiten Sie die Liste oben ab. Der Katalog führt nur Chat- und Speech-to-Text-Modelle. Wenn Sie von anderen Endpoints abhängen, etwa Embeddings oder Dateispeicher, belassen Sie diese bei einem anderen Anbieter. Neue Konten starten mit $5 Guthaben. Von den Chat-Modellen läuft damit nur Gemma 4 VL 26B (es deckt außerdem die beiden Transcribe-Modelle ab), ein Schattentest mit DeepSeek, GLM oder Qwen erfordert also eine Aufladung.

Kostenlose Tools zum Thema (auf Englisch)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Kostenlose Tools (auf Englisch)](https://broadrouter.com/tools/)

## Begriffe in diesem Artikel

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[Token](https://broadrouter.com/de/glossary/token/)

Ein Token ist die Texteinheit, die ein Sprachmodell liest und schreibt: ein Wort, ein Wortteil, ein Satzzeichen oder eine Bytefolge, die der Tokenizer des Modells erzeugt. LLM-APIs zählen, begrenzen und berechnen die Nutzung meist in Tokens.

[Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/)

Ein Rate Limit ist eine Obergrenze, die eine API festlegt, wie stark ein Client sie in einem Zeitfenster nutzen darf, etwa Anfragen pro Minute oder Tokens pro Minute. Anfragen über dem Limit werden abgelehnt, meist mit HTTP 429 Too Many Requests, bis die Nutzung wieder darunter liegt.

[Streaming](https://broadrouter.com/de/glossary/streaming/)

Streaming ist eine Art, die Antwort eines Sprachmodells in kleinen Chunks zurückzugeben, während sie noch erzeugt wird, statt als eine Antwort am Ende. OpenAI-kompatible APIs streamen über Server-Sent Events, wenn die Anfrage stream auf true setzt.

[Basis-URL (Base URL)](https://broadrouter.com/de/glossary/base-url/)

Eine Basis-URL ist die feste Stammadresse einer API, etwa https://api.example.com/v1, die ein Client vor jeden Endpoint-Pfad wie /chat/completions setzt. In OpenAI-kompatiblen SDKs lenkt eine geänderte Basis-URL, zusammen mit API-Schlüssel und Modell-ID, denselben Code zu einem anderen Anbieter.

[Chat Completions API](https://broadrouter.com/de/glossary/chat-completions-api/)

Die Chat Completions API ist der HTTP-Endpoint von OpenAI, POST /v1/chat/completions, der einen Modellnamen und eine Liste von Nachrichten mit Rollen entgegennimmt und die nächste Nachricht des Modells zurückgibt. Ihr Format für Anfrage und Antwort wurde zum gemeinsamen Standard, den OpenAI-kompatible Anbieter und SDKs übernehmen.

[Concurrency (Parallelität)](https://broadrouter.com/de/glossary/concurrency/)

Concurrency (Parallelität) ist die Zahl der Anfragen, die ein Client gleichzeitig offen hat. LLM-APIs begrenzen sie oft pro Schlüssel oder Plan, getrennt von den Anfragen pro Minute, weil jede offene Anfrage GPU-Kapazität belegt, bis ihre Antwort fertig ist.

[Embeddings](https://broadrouter.com/de/glossary/embeddings/)

Embeddings sind Listen von Gleitkommazahlen (Vektoren), die ein Modell erzeugt, um einen Text, ein Bild oder einen anderen Input darzustellen. Inputs mit ähnlicher Bedeutung erhalten nah beieinanderliegende Vektoren; über den Abstand lassen sich Suchergebnisse ranken, Dokumente clustern oder verwandte Elemente finden.

## Häufige Fragen

### Brauche ich ein anderes SDK?

Nein. Die offiziellen OpenAI-SDKs für Python und Node.js akzeptieren eine eigene Basis-URL. Darauf aufbauende Frameworks wie ChatOpenAI von LangChain ebenfalls.

### Wie ändere ich die Basis-URL im OpenAI-SDK?

Übergeben Sie dem Client in Python base\_url oder in Node.js baseURL, oder setzen Sie die Umgebungsvariable OPENAI\_BASE\_URL. Für BroadNet Inference lautet der Wert https://inference.broadnet.ai/v1, der Schlüssel gehört in api\_key.

### Warum bekomme ich nach dem Wechsel eine leere Antwort?

Reasoning-Modelle wie DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken nach, bevor sie antworten, und dieses Nachdenken wird auf max\_tokens angerechnet. Erhöhen Sie max\_tokens auf 1.000 oder mehr, oder setzen Sie reasoning\_effort auf low.

### Warum bekomme ich nach dem Wechsel einen 404- oder „model not found“-Fehler?

Meist steht noch der Modellname des alten Anbieters in der Konfiguration, oder der Basis-URL fehlt der Pfad /v1. Verwenden Sie die genaue Modell-ID des neuen Anbieters und die vollständige Basis-URL.

### Welche Fehler sollte ich wiederholen?

Wiederholen Sie 429 und 5xx mit begrenztem exponentiellem Backoff. Beheben Sie 401, 402 und 413, bevor Sie es erneut versuchen. Der Leitfaden zu Fehlern auf dieser Website listet jeden Code auf.

### Heißt OpenAI-kompatibel auch identisch?

Nein. Die Form von Anfrage und Antwort stimmt überein, doch Modell-IDs, unterstützte Parameter, Limits, Usage-Felder und Fehlerdetails können abweichen. Testen Sie jede Funktion, die Ihre App nutzt.

## Weiterlesen

-   [Basis-URLs OpenAI-kompatibler APIs: 14 Anbieter geprüft](https://broadrouter.com/de/blog/openai-compatible-api-base-urls/)
-   [OpenRouter oder Flatrate für KI-Agenten: Was kostet weniger?](https://broadrouter.com/de/blog/openrouter-alternative-flat-rate/)
-   [Wann sich ein Kontextfenster mit 1M Tokens lohnt (und wann nicht)](https://broadrouter.com/de/blog/million-token-context-window-guide/)
-   [LLM-API mit Zero Data Retention: Checkliste mit 10 Fragen](https://broadrouter.com/de/blog/zero-data-retention-llm-api-checklist/)
-   [GPU-Hardware und Serving von BroadNet, wie BroadNet sie beschreibt](https://broadrouter.com/de/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM-Antworten cachen, Kosten senken: ein Exact-Match-Cache in Python](https://broadrouter.com/de/blog/cache-llm-responses-cut-cost/)
-   [Anleitung: OpenAI Python SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-python-sdk/)
-   [Anleitung: OpenAI Node.js SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-node-sdk/)
-   [Anleitung: LangChain mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/langchain-openai-base-url/)
-   [Anleitung: Fehlercodes von BroadNet Inference: Wann ist ein Retry sinnvoll?](https://broadrouter.com/de/guides/errors-and-retries/)
-   [Anleitung: Chat Completions streamen und abgebrochene Verbindungen behandeln](https://broadrouter.com/de/guides/streaming-chat-completions/)
-   [Anleitung: Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [Anleitung: LiteLLM an BroadNet Inference anbinden (SDK und Proxy)](https://broadrouter.com/de/guides/litellm-proxy-custom-provider/)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-blog-openai-compatible-api-migration-checklist&utm_content=page-cta) ·

**Quellen**

-   [API-Referenz von BroadNet Inference (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-blog-openai-compatible-api-migration-checklist&utm_content=sources)
-   [README des OpenAI Python SDK (base\_url, OPENAI\_BASE\_URL, Retries; geprüft am 2026-11-14)](https://github.com/openai/openai-python)
