Eine OpenAI-kompatible API akzeptiert dieselbe Anfrageform wie die API von OpenAI. Die offiziellen OpenAI-SDKs funktionieren also, sobald Sie base_url und den API-Schlüssel ändern. Schwierig ist nur, dass jeder Anbieter seinen Endpoint an einer leicht anderen Stelle hat. Die Tabelle unten listet 14 Anbieter, jeweils am 15. November 2026 aus der Dokumentation des Anbieters selbst gelesen.
Wie lautet die Basis-URL der einzelnen OpenAI-kompatiblen Anbieter?
| Anbieter | Basis-URL | Was die Doku zur OpenAI-Kompatibilität listet | Eigenheiten laut Doku |
|---|---|---|---|
| OpenAI | https://api.openai.com/v1 |
Alles; sie ist die Referenz | Standard des SDK, wenn nichts gesetzt ist |
| Anthropic | https://api.anthropic.com/v1/ |
Chat Completions | „Primarily intended to test and compare model capabilities“ (Übersetzung: „vor allem zum Testen und Vergleichen von Modellfähigkeiten gedacht“); strict wird ignoriert; Audio- und Datei-Inputs liefern 400 |
| Google Gemini | https://generativelanguage.googleapis.com/v1beta/openai/ |
Chat Completions, Embeddings, Bildgenerierung, Modelle, Batch | Unterstützung der OpenAI-Bibliothek „still in beta“ (Übersetzung: „noch in der Beta“); keine Responses API aufgeführt |
| DeepSeek | https://api.deepseek.com |
Chat Completions | Kein Versionspfad; eigene URL im Anthropic-Format unter /anthropic |
| Groq | https://api.groq.com/openai/v1 |
Chat Completions, Responses API; Hinweise zur Audio-Transkription | logprobs, logit_bias, top_logprobs, messages[].name liefern 400; n muss 1 sein; keine Transkripte als srt oder vtt |
| Together AI | https://api.together.ai/v1 |
Chat, Completions, Bilder, Sprachausgabe, Transkriptionen, Modelle, Responses | Inferenz nur in den USA unter https://us-api.together.ai/v1; Embeddings nur auf dedizierten Endpoints |
| Fireworks AI | https://api.fireworks.ai/inference/v1 |
Chat Completions | Modell-IDs wie accounts/fireworks/models/…; senkt max_tokens passend zum Kontext, statt einen Fehler zu liefern, sofern nicht anders eingestellt |
| DeepInfra | https://api.deepinfra.com/v1/openai |
Chat Completions; Responses-Clients nutzen dieselbe Basis | Embeddings, Bilder und Sprachausgabe auf einer separaten Seite dokumentiert |
| Mistral AI | https://api.mistral.ai/v1 |
POST /v1/chat/completions |
Die API-Referenz bezeichnet sich nicht als OpenAI-kompatibel; testen Sie, bevor Sie sich darauf verlassen |
| OpenRouter | https://openrouter.ai/api/v1 |
Chat Completions | Optionale Header HTTP-Referer und X-OpenRouter-Title für die eigenen Rankings |
| xAI | https://api.x.ai/v1 |
Responses API | Der Leitfaden sagt „The Responses API is the preferred way of interacting with our models“ (Übersetzung: „Die Responses API ist der bevorzugte Weg, mit unseren Modellen zu interagieren“) |
| Z.ai (GLM) | https://api.z.ai/api/paas/v4/ |
Chat Completions | Pfad v4, nicht v1 |
| Alibaba Model Studio | https://{WorkspaceId}.ap-southeast-1.maas.aliyuncs.com/compatible-mode/v1 (Singapur) |
Chat Completions | Workspace-ID im Hostnamen; ein Schlüssel funktioniert nur in der Region, in der er erstellt wurde, sonst 401 |
| BroadNet Inference | https://inference.broadnet.ai/v1 |
Chat Completions, Audio-Transkriptionen | Modell-IDs beginnen mit broadnet/; siehe unten |
Alibaba listet außerdem einen Endpoint in den USA (Virginia) auf us-east-1. Die Zeile für Peking auf derselben Seite zeigt den Host in Singapur, während anderer Text auf der Seite cn-beijing nennt; bestätigen Sie einen Endpoint in China daher in der Konsole. Die Tabelle ist eine Momentaufnahme. Endpoints ändern sich: Die Doku von Anthropic und die von Google wurden beide auf neue Adressen umgeleitet, während wir sie geprüft haben.
Preise dieser Anbieter finden Sie auf den Seiten LLM-API-Preise nach Anbieter.
Wie setzen Sie die Basis-URL im Code?
In Python übergeben Sie base_url an den Client:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
r = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in one line."}],
)
print(r.choices[0].message.content)
In Node heißt die Option baseURL:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
Oder Sie setzen sie einmal für jedes Tool, das die offiziellen SDKs nutzt. Im Quellcode des Node SDK ist baseURL standardmäßig process.env['OPENAI_BASE_URL'], sonst https://api.openai.com/v1; das Python-README dokumentiert dieselbe Variable:
export OPENAI_BASE_URL="https://inference.broadnet.ai/v1"
export OPENAI_API_KEY="your-key"
Vollständige Anleitungen: OpenAI Python SDK, OpenAI Node SDK. Was eine Basis-URL ist und warum Tools danach fragen, erklärt das Glossar.
Wie testen Sie eine neue Basis-URL mit curl?
Senden Sie eine winzige Anfrage, bevor Sie Anwendungscode ändern:
curl https://inference.broadnet.ai/v1/chat/completions \
-H "Authorization: Bearer $BROADNET_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model": "broadnet/gemma-4-26b-a4b", "messages": [{"role": "user", "content": "ping"}], "max_tokens": 20}'
Tauschen Sie Basis-URL, Schlüssel und Modell gegen die des Anbieters aus, den Sie testen. Ein 200 mit einem choices-Array bedeutet, dass Pfad, Schlüssel und Modell-ID stimmen. Ein 404 heißt meist, dass der Pfad falsch ist; ein 401, dass Schlüssel oder Region falsch sind; ein 400 nennt oft den Parameter, den der Anbieter ablehnt. Der curl-Schnellstart hat weitere Beispiele, und der API-Request-Builder schreibt die Versionen für curl, Python und Node für Sie.
Welche Fehler passieren beim Ändern von base_url häufig?
- Den vollständigen Endpoint einfügen. Das SDK hängt
/chat/completionsan. Eine Basis-URL, die schon darauf endet, ergibt/chat/completions/chat/completionsund einen 404. /v1aus Gewohnheit ergänzen oder weglassen. Die dokumentierte Basis von DeepSeek hat kein/v1, die von Z.ai endet auf/v4/und die von Gemini auf/v1beta/openai/. Kopieren Sie den exakten String des Anbieters.- OpenAI-Modellnamen beibehalten. Namen wie
gpt-…scheitern anderswo. Jeder Anbieter hat sein eigenes Format:deepseek-ai/DeepSeek-V4-Flash-0731bei DeepInfra,accounts/fireworks/models/…bei Fireworks,broadnet/deepseek-v4.1-flashbei BroadNet. - Parameter senden, die der Anbieter ablehnt oder ignoriert. Groq liefert 400 für
logprobs; die Schicht von Anthropic ignoriertseed,logit_biasundreasoning_effortstillschweigend. Ein stillschweigend ignorierter Parameter ist schlimmer als ein Fehler, weil Sie nichts davon erfahren. - Dieselben Antwortfelder voraussetzen. Die Schicht von Anthropic liefert ein leeres
prompt_tokens_details, die Angabe gecachter Tokens fehlt also. Fireworks liefert die Usage beim Streaming im letzten Chunk, was die Typen des SDK womöglich nicht deklarieren. - Voraussetzen, dass jeder Endpoint existiert. „OpenAI-kompatibel“ heißt meist Chat Completions. Embeddings, Audio, Bildgenerierung und die Responses API sind eigene Fragen, wie die Tabelle zeigt.
- Regionen vermischen. Schlüssel von Alibaba sind an eine Region gebunden, und Together bietet einen separaten Host nur für die USA. Ein gültiger Schlüssel auf dem falschen Host scheitert trotzdem.
Die vollständige Liste für vor dem Wechsel steht in der Checkliste für die Migration zu einer OpenAI-kompatiblen API.
Welche Endpoints unterstützt BroadNet Inference?
Die API-Referenz von BroadNet dokumentiert zwei Modell-Endpoints auf https://inference.broadnet.ai/v1, dazu GET /v1/models für Katalog-Metadaten:
| Endpoint | Modelle |
|---|---|
POST /v1/chat/completions |
DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B, BroadNet Gemma 4 VL 26B |
POST /v1/audio/transcriptions |
BroadNet Transcribe Arabic, BroadNet Transcribe (14 Sprachen) |
Was das in der Praxis bedeutet:
- Keine Embeddings, keine Bildgenerierung und keine Responses API sind dokumentiert. Ein Tool, das eines davon braucht, benötigt dafür einen zweiten Anbieter.
- Tool Calling und strukturierte Ausgabe sind für GLM 5.3 und Qwen3.8 27B dokumentiert.
- Bilder werden als
data:-URLs inimage_url-Inhaltsteilen übergeben, bei DeepSeek V4.1 Flash, Qwen3.8 27B und Gemma 4 VL 26B. - Reasoning-Modelle (DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B) rechnen das Reasoning auf
max_tokensan. Lassen Sie 1.000 Tokens oder mehr Spielraum oder setzen Siereasoning_effortauflow, wie die Doku empfiehlt; siehe warum Reasoning-Modelle leere Antworten liefern. - Eine Modellliste kam zurück, als wir am 15. November 2026
GET /v1/modelsaufgerufen haben. Sie steht aber nicht in der Liste der dokumentierten Endpoints, bauen Sie also nicht darauf. - Die Limits für Pay-as-you-go-Schlüssel liegen bei 30 Anfragen pro Minute und 4 gleichzeitig laufenden Anfragen.
Preise pro 1 Mio. Tokens: DeepSeek V4.1 Flash $0.175 Input und $0.52 Output, Gemma 4 VL 26B $0.10 und $0.22. DeepSeek V4.1 Flash gibt es außerdem als Flatrate-Plan für $60 pro Monat und Session, eine Anfrage gleichzeitig.
Sollten Sie mehrere Anbieter über eine Basis-URL leiten?
Ruft Ihre App mehrere dieser Anbieter auf, gibt ein Proxy wie LiteLLM Ihrem Code eine einzige Basis-URL und ordnet die Modellnamen dem jeweiligen Upstream zu. Die Zuordnung legen Sie fest; nichts wechselt den Anbieter für Sie, solange Sie nicht selbst Fallbacks konfigurieren. Failover für LLM-APIs zeigt, wie das im Client oder in LiteLLM geht. Der Leitfaden zum LiteLLM-Proxy zeigt einen Eintrag für BroadNet. Hintergrund zum Begriff finden Sie unter OpenAI-kompatible API.
Wo BroadNet Inference hineinpasst
BroadNet passt gut, wenn Ihr Code schon Chat Completions spricht und Sie offene Modelle, Speech-to-Text für Arabisch und weitere Sprachen oder eine DeepSeek-Session zum Festpreis über einen Schlüssel möchten. Es passt nicht, wenn Sie Embeddings, die Responses API oder Bildgenerierung vom selben Anbieter brauchen; Together AI und Gemini dokumentieren mehr von der OpenAI-Schnittstelle. Gleichen Sie unsere Tabelle vor dem Release mit der Doku jedes Anbieters ab, denn diese URLs und Endpoint-Listen ändern sich.
