---
title: "LangChain ChatOpenAI mit eigener base_url | BroadRouter"
description: "So verbinden Sie ChatOpenAI aus LangChain über base_url und api_key mit BroadNet Inference, und was LangChain von Reasoning-Modellen übernimmt und was nicht."
url: https://broadrouter.com/de/guides/langchain-openai-base-url/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/guides/langchain-openai-base-url/) (aktualisiert am 2026-11-16).

# LangChain mit BroadNet Inference nutzen

Aktualisiert 2026-11-16

Installieren Sie langchain-openai und erstellen Sie ChatOpenAI mit base\_url https://inference.broadnet.ai/v1, Ihrem BroadNet-Schlüssel als api\_key und einer BroadNet-Modell-ID wie broadnet/glm-5.3. Invoke-, Stream- und Tool-Calling-Chains laufen dann über Chat Completions. Verzichten Sie auf Funktionen, die nur die Responses API bietet, und lassen Sie in max\_tokens Platz für Reasoning.

`ChatOpenAI` aus LangChain akzeptiert über `base_url` jeden beliebigen Endpoint. Das funktioniert mit BroadNet Inference, weil es das Standardformat für Chat Completions verwendet. Wenn Sie die API stattdessen direkt aufrufen, lesen Sie [die Anleitung zum Python SDK](https://broadrouter.com/de/guides/openai-python-sdk/).

## Installieren

Aktuelle Versionen von `langchain-openai` (1.x) benötigen Python 3.11 oder neuer.

```bash
pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'
```

## Verbinden

```python
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.invoke("Summarise the CAP theorem in two sentences.").content)
```

`openai_api_base` ist ein Alias für `base_url`. Ist keiner von beiden gesetzt, liest LangChain `OPENAI_API_BASE`, und danach liest der zugrunde liegende `openai`\-Client `OPENAI_BASE_URL`.

## Gut zu wissen

-   **Reasoning-Text wird nicht übernommen.** Laut LangChain-Dokumentation folgt `ChatOpenAI` der offiziellen OpenAI-Spezifikation und behält keine Felder außerhalb des Standards wie `reasoning_content`. Sie erhalten die endgültige Antwort, und die braucht eine Chain meist auch.
-   **Lassen Sie Platz für Reasoning.** GLM 5.3, DeepSeek V4.1 Flash und Qwen3.8 27B denken zuerst nach. Ein kleines `max_tokens` kann zu einer leeren Antwort führen. [Warum Antworten leer zurückkommen](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).
-   **Usage beim Streaming.** Wenn Sie den Endpoint über `OPENAI_BASE_URL` konfigurieren, schaltet LangChain `stream_usage` standardmäßig ab. Übergeben Sie `stream_usage=True`, wenn Sie beim Streaming Token-Zahlen erhalten möchten. Laut BroadNet-Dokumentation kommt die Usage im letzten Chunk, wenn sie angefordert wurde.
-   **Bleiben Sie bei Chat Completions.** BroadNet stellt `/v1/chat/completions` bereit, nicht die Responses API. Laut LangChain-Dokumentation wechselt `ChatOpenAI` zur Responses API, sobald Sie integrierte OpenAI-Tools (Websuche, Dateisuche, Code Interpreter und Ähnliches), Gesprächszustand oder den Parameter `reasoning` verwenden. Lassen Sie diese weg und setzen Sie nicht `use_responses_api=True`.
-   **Name des Token-Limits.** Laut LangChain-Dokumentation wird `max_tokens` intern in `max_completion_tokens` umgewandelt. Die BroadNet-Dokumentation beschreibt `max_tokens`. Wenn ein Limit ignoriert zu werden scheint, prüfen Sie die Anfrage, die Ihre App tatsächlich sendet.

## Welches Modell für welche Chain

| Chain | Modell |
| --- | --- |
| Tool Calling und strukturierte Ausgabe | `broadnet/glm-5.3` |
| Lange Dokumente und Agenten, unbegrenzter Plan | `broadnet/deepseek-v4.1-flash` |
| Arabischer Text oder Bilder | `broadnet/qwen3.8-27b` |

[Preise aller Modelle ansehen](https://broadrouter.com/de/pricing/).

## Fehlerbehebung

-   **401.** Der Schlüssel ist falsch, abgelaufen oder das Pay-as-you-go-Kontingent ist aufgebraucht. Wenn Sie keinen `api_key` übergeben haben, hat LangChain `OPENAI_API_KEY` verwendet, und darin steht womöglich ein OpenAI-Schlüssel.
-   **404 oder „not found“.** Prüfen Sie, ob `base_url` auf `/v1` endet und ob nichts den Aufruf an die Responses API umleitet (siehe oben). Prüfen Sie dann, ob die Modell-ID exakt der von BroadNet entspricht, mit dem Präfix `broadnet/`. Kostenpflichtige Modelle brauchen eine Aufladung; das Guthaben von $5 deckt `broadnet/gemma-4-26b-a4b` und die beiden Transcribe-Modelle ab.
-   **Leeres `content`.** Das Reasoning hat das Budget aufgebraucht. Erhöhen Sie `max_tokens`. [Warum Antworten leer zurückkommen](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).
-   **Es kommt nie zu Tool Calls.** Nutzen Sie `broadnet/glm-5.3` oder `broadnet/qwen3.8-27b`. Die BroadNet-Dokumentation nennt Tools nur für diese beiden.
-   **429 in Batch- oder parallelen Chains.** Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute und 4 gleichzeitig. Setzen Sie für `batch()` den Wert `max_concurrency` in der Runnable-Konfiguration. Siehe [Fehlercodes und Retries](https://broadrouter.com/de/guides/errors-and-retries/).

## Begriffe in dieser Anleitung

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[Chat Completions API](https://broadrouter.com/de/glossary/chat-completions-api/)

Die Chat Completions API ist der HTTP-Endpoint von OpenAI, POST /v1/chat/completions, der einen Modellnamen und eine Liste von Nachrichten mit Rollen entgegennimmt und die nächste Nachricht des Modells zurückgibt. Ihr Format für Anfrage und Antwort wurde zum gemeinsamen Standard, den OpenAI-kompatible Anbieter und SDKs übernehmen.

[Pay-as-you-go](https://broadrouter.com/de/glossary/pay-as-you-go/)

Pay-as-you-go ist ein Preismodell, bei dem Sie nur für tatsächliche Nutzung zahlen, gemessen pro Einheit wie Tokens, Anfragen oder Audiominuten, ohne Abonnement oder Mindestabnahme. Die meisten LLM-APIs rechnen so ab, aus einem vorausbezahlten Guthaben oder per regelmäßiger Rechnung.

[Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/)

Ein Rate Limit ist eine Obergrenze, die eine API festlegt, wie stark ein Client sie in einem Zeitfenster nutzen darf, etwa Anfragen pro Minute oder Tokens pro Minute. Anfragen über dem Limit werden abgelehnt, meist mit HTTP 429 Too Many Requests, bis die Nutzung wieder darunter liegt.

[Streaming](https://broadrouter.com/de/glossary/streaming/)

Streaming ist eine Art, die Antwort eines Sprachmodells in kleinen Chunks zurückzugeben, während sie noch erzeugt wird, statt als eine Antwort am Ende. OpenAI-kompatible APIs streamen über Server-Sent Events, wenn die Anfrage stream auf true setzt.

[Concurrency (Parallelität)](https://broadrouter.com/de/glossary/concurrency/)

Concurrency (Parallelität) ist die Zahl der Anfragen, die ein Client gleichzeitig offen hat. LLM-APIs begrenzen sie oft pro Schlüssel oder Plan, getrennt von den Anfragen pro Minute, weil jede offene Anfrage GPU-Kapazität belegt, bis ihre Antwort fertig ist.

[Kontextfenster (Context Window)](https://broadrouter.com/de/glossary/context-window/)

Das Kontextfenster ist die maximale Anzahl an Tokens, mit der ein Sprachmodell in einer einzelnen Anfrage arbeiten kann. Es umfasst Prompt, Gesprächsverlauf, Tool-Definitionen, Bilder und den erzeugten Output einschließlich Reasoning-Tokens. Was nicht hineinpasst, muss gekürzt, zusammengefasst oder auf mehrere Anfragen verteilt werden.

[Prepaid-Guthaben (Prepaid Credit)](https://broadrouter.com/de/glossary/prepaid-credit/)

Prepaid-Guthaben ist Geld, das vor der Nutzung auf ein API-Konto eingezahlt wird. Jede Anfrage zieht ihre Kosten vom Guthaben ab, und wenn es aufgebraucht ist, stoppen abgerechnete Anfragen, bis Sie aufladen. So sind die Ausgaben auf das eingezahlte Geld begrenzt.

## Häufige Fragen

### Nehme ich in ChatOpenAI base\_url oder openai\_api\_base?

Beides geht. openai\_api\_base ist ein Alias für base\_url. Fehlen beide, prüft LangChain OPENAI\_API\_BASE, danach liest der openai-Client OPENAI\_BASE\_URL.

### Kann ich den BroadNet-Endpoint nur über Umgebungsvariablen setzen?

Ja. Setzen Sie OPENAI\_BASE\_URL auf https://inference.broadnet.ai/v1 und OPENAI\_API\_KEY auf Ihren BroadNet-Schlüssel, und erstellen Sie ChatOpenAI dann nur mit der Modell-ID. Übergeben Sie stream\_usage=True, wenn Sie beim Streaming Token-Zahlen erhalten möchten.

### Warum verwirft LangChain reasoning\_content aus BroadNet-Antworten?

Laut LangChain-Dokumentation folgt ChatOpenAI der offiziellen OpenAI-Spezifikation und extrahiert keine Felder außerhalb des Standards wie reasoning\_content. Die endgültige Antwort erhalten Sie trotzdem in content.

### Unterstützt ChatOpenAI mit BroadNet Tool Calling?

Ja, über bind\_tools, bei den Modellen, für die BroadNet Tools angibt. Nutzen Sie broadnet/glm-5.3 oder broadnet/qwen3.8-27b für Tool Calling und with\_structured\_output.

## Verwandte Anleitungen

-   [OpenAI Python SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-python-sdk/)
-   [Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [Fehlercodes von BroadNet Inference: Wann ist ein Retry sinnvoll?](https://broadrouter.com/de/guides/errors-and-retries/)
-   [OpenAI Agents SDK mit BroadNet Inference betreiben](https://broadrouter.com/de/guides/openai-agents-sdk-custom-provider/)
-   [Alle Tools, die mit BroadNet Inference funktionieren (auf Englisch)](https://broadrouter.com/integrations/): SDKs, Coding-Agenten, Chat-Oberflächen und Automatisierungstools, jeweils mit den genauen Einstellungen

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-langchain-openai-base-url&utm_content=page-cta) ·

**Quellen**

-   [LangChain-Dokumentation, ChatOpenAI-Integration (geprüft am 2026-11-14)](https://docs.langchain.com/oss/python/integrations/chat/openai)
-   [PyPI, Paket langchain-openai (1.8, Python 3.11+, geprüft am 2026-11-14)](https://pypi.org/project/langchain-openai/)
-   [Quellcode von langchain-openai, Auflösung der Basis-URL in ChatOpenAI (geprüft am 2026-11-16)](https://github.com/langchain-ai/langchain/blob/master/libs/partners/openai/langchain_openai/chat_models/base.py)
-   [API-Referenz von BroadNet Inference (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-langchain-openai-base-url&utm_content=sources)
