Jede Anfrage eines SDK besteht aus Basis-URL plus Pfad. Stimmt die Basis-URL, funktioniert der Rest des Clients unverändert.
So funktioniert es
Der Client setzt zwei Teile zusammen:
| Teil | Beispiel |
|---|---|
| Basis-URL | https://inference.broadnet.ai/v1 |
| Endpoint-Pfad | /chat/completions |
| Vollständige Request-URL | https://inference.broadnet.ai/v1/chat/completions |
Im Code hängt der Parametername von der Bibliothek ab:
# Python SDK
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
// Node SDK
const client = new OpenAI({ baseURL: "https://inference.broadnet.ai/v1", apiKey: process.env.BROADNET_API_KEY });
Beide offiziellen SDKs greifen auf die Umgebungsvariable OPENAI_BASE_URL zurück und auf die Adresse von OpenAI, wenn nichts gesetzt ist. Andere Tools verwenden Namen wie api_base oder OPENAI_API_BASE.
Warum es wichtig ist
Die Basis-URL macht den Wechsel zu einer OpenAI-kompatiblen API zu einer reinen Konfigurationsänderung. Sie entscheidet auch, wohin Ihre Prompts gehen und wer Ihnen eine Rechnung stellt. Ein falscher Wert kann Traffic, und Ihren API-Schlüssel, an den falschen Anbieter schicken. Halten Sie sie in der Konfiguration neben dem Schlüssel, nicht fest einkodiert an mehreren Stellen.
Router nutzen dieselbe Idee: Sie richten die Basis-URL auf den Router statt auf einen Modellanbieter.
Bei BroadNet Inference
Die Basis-URL lautet https://inference.broadnet.ai/v1 für jedes Modell: Chat, Vision und Speech-to-Text. Chat geht an /chat/completions, Transkription an /audio/transcriptions. Der curl-Schnellstart zeigt eine erste Anfrage, und die LangChain-Anleitung zeigt, wo die Einstellung in einem Framework sitzt.
Häufige Fehler
- Fehlendes
/v1.https://inference.broadnet.aiohne/v1führt im SDK zu 404-Fehlern. - Doppelter Pfad. Wer den vollständigen Endpoint, etwa
.../v1/chat/completions, als Basis-URL einfügt, lässt das SDK.../chat/completions/chat/completionsaufrufen. - Übrig gebliebene Umgebungsvariablen. Eine alte
OPENAI_BASE_URLin Ihrer Shell überschreibt, was Sie erwarten. Geben Sie sie aus, wenn Anfragen am falschen Ziel landen. - Unverschlüsseltes HTTP. Verwenden Sie immer
https://. Bearer-Schlüssel müssen über TLS übertragen werden. - URL geändert, Modell nicht. Jeder Anbieter hat eigene Modell-IDs, etwa
broadnet/deepseek-v4.1-flash.
Ziehen Sie eine ganze App um? Arbeiten Sie die Checkliste für die Migration durch.