BroadRouter
Loslegen

OpenAI-kompatible API

Aktualisiert

Eine OpenAI-kompatible API ist eine HTTP-API, die dieselben Anfrage- und Antwortformate wie die OpenAI API akzeptiert, etwa POST /v1/chat/completions. OpenAI-SDKs und Tools können sie deshalb nutzen, wenn nur Basis-URL, API-Schlüssel und Modellname geändert werden.

Auch genannt: OpenAI-kompatibel, OpenAI-kompatible Schnittstelle, OpenAI-kompatibler Endpoint, OpenAI-compatible API, OpenAI API compatible, OpenAI-style API, OpenAI drop-in replacement

Das API-Format von OpenAI ist zur gemeinsamen Sprache der LLM-Werkzeuge geworden. Viele Anbieter akzeptieren es inzwischen, sodass eine Client-Bibliothek mit vielen Backends sprechen kann.

So funktioniert es

Eine kompatible API übernimmt die Teile der OpenAI API, auf die Clients angewiesen sind:

  • dieselben Pfade, etwa /v1/chat/completions und /v1/audio/transcriptions;
  • dieselben JSON-Strukturen: ein messages-Array hinein, choices[0].message.content heraus und ein usage-Block mit Token-Zahlen;
  • einen API-Schlüssel, gesendet als Authorization: Bearer <key>;
  • Streaming als Server-Sent Events, wenn stream auf true steht.

Der Wechsel ist eine Konfigurationsänderung. Mit dem offiziellen Python SDK:

from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)

Gegenüber einem OpenAI-Beispiel haben sich nur drei Werte geändert: die Basis-URL, der Schlüssel und die Modell-ID.

Warum es wichtig ist

Kompatibilität senkt die Wechselkosten. SDKs, Agenten-Frameworks, IDE-Plugins und Router, die das OpenAI-Format sprechen, funktionieren ohne neuen Code. Sie können einen zweiten Anbieter in wenigen Minuten testen und behalten die Option zu wechseln.

Kompatibel heißt aber nicht identisch. Die Kompatibilitätsschicht von Anthropic ignoriert zum Beispiel strict bei Tools und lässt prompt_tokens_details leer. Typische Lücken sind:

  • Parameter, die ignoriert oder abgelehnt werden;
  • wie Reasoning-Tokens auf max_tokens angerechnet werden;
  • ob die Nutzung am Ende eines Streams gemeldet wird;
  • Rate Limits und Fehlercodes.

Bei BroadNet Inference

BroadNet Inference bietet POST /v1/chat/completions, POST /v1/audio/transcriptions und GET /v1/models unter https://inference.broadnet.ai/v1. Schlüssel werden ausschließlich als Authorization: Bearer <key> gesendet. Die Anleitungen für Python und Node zeigen die vollständige Einrichtung, und LangChain funktioniert genauso.

Zwei Unterschiede sollten Sie einplanen: DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B denken vor der Antwort nach, und dieses Reasoning zählt zu max_tokens. Außerdem erlaubt ein Pay-as-you-go-Schlüssel 30 Anfragen pro Minute und 4 gleichzeitig. Den Rest deckt die Checkliste für die Migration ab.

Häufige Fehler

  • Einen OpenAI-Modellnamen wie gpt-6-astra (laut Modellseite von OpenAI dessen Flaggschiff, geprüft am 2026-11-15) beibehalten. Verwenden Sie die Modell-ID des Anbieters.
  • Annehmen, ein Parameter funktioniere, nur weil die Anfrage erfolgreich war. Manche Anbieter ignorieren unbekannte Felder stillschweigend.

Häufige Fragen

Heißt OpenAI-kompatibel, dass jede OpenAI-Funktion funktioniert?

Nein. Es heißt, dass die grundlegenden Anfrage- und Antwortformate übereinstimmen. Einzelne Felder können ignoriert oder abgelehnt werden. Die Kompatibilitätsschicht von Anthropic dokumentiert zum Beispiel Felder, die sie ignoriert, und solche, die einen 400-Fehler liefern. Lesen Sie die Liste des Anbieters, bevor Sie sich auf einen Parameter verlassen.

Brauche ich ein anderes SDK?

Nein. Die offiziellen OpenAI-SDKs akzeptieren eine eigene Basis-URL. In Python übergeben Sie base_url, in Node baseURL, oder Sie setzen die Umgebungsvariable OPENAI_BASE_URL.

Welche Endpoints unterstützt BroadNet Inference?

POST /v1/chat/completions für Chat und POST /v1/audio/transcriptions für Speech-to-Text. Auch GET /v1/models gibt es; die Dokumentation von BroadNet beschreibt ihn als öffentliche Katalog-Metadaten für externe Monitoring-Dienste, nehmen Sie die Modell-IDs für Anfragen also aus der API-Referenz.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen