BroadRouter
Loslegen

Claude Code mit offenen Modellen: Proxys, native Endpoints, Grenzen

Vom Team von BroadNet Inference · 6 Min. Lesezeit · Veröffentlicht

Claude Code sendet Anfragen im Format der Anthropic Messages API an ANTHROPIC_BASE_URL. Für einen OpenAI-kompatiblen Anbieter betreiben Sie einen übersetzenden Proxy wie LiteLLM und richten Claude Code darauf, oder Sie wählen einen Anbieter mit eigenem Endpoint im Anthropic-Format, etwa DeepSeek oder Z.ai. Anthropic unterstützt Nicht-Claude-Modelle in Claude Code nicht; Tools, Caching und Kontextlimits testen Sie also selbst.

Claude Code sendet jede Anfrage im Format der Anthropic Messages API, an /v1/messages unter der Adresse, auf die ANTHROPIC_BASE_URL zeigt. Die meisten Anbieter offener Modelle, BroadNet Inference eingeschlossen, sprechen stattdessen das OpenAI-Format. Sie brauchen also entweder einen Proxy, der zwischen beiden übersetzt, oder einen Anbieter, der einen eigenen Endpoint im Anthropic-Format veröffentlicht. Dieser Beitrag behandelt beides, dazu die Grenzen, die entscheiden, ob sich der Aufwand lohnt.

Warum kann Claude Code eine OpenAI-kompatible API nicht direkt aufrufen?

Der Kompatibilitätsleitfaden für Gateways von Claude Code listet die Formate auf, die ein Gateway bereitstellen muss. Für eine einfache Basis-URL ist das Anthropic Messages: /v1/messages, optional /v1/messages/count_tokens, und die Header anthropic-beta und anthropic-version werden weitergereicht. Eine OpenAI-kompatible API bietet /v1/chat/completions mit einer anderen Form von Anfrage und Antwort. Richten Sie Claude Code direkt darauf, schlagen die Anfragen fehl.

Noch etwas sollten Sie vorher wissen. Laut der Dokumentation von Claude Code selbst gilt: Anthropic „doesn’t support routing Claude Code to non-Claude models through any gateway.“ (Übersetzung: unterstützt es nicht, Claude Code über irgendein Gateway an Nicht-Claude-Modelle zu leiten.) Viele machen es trotzdem, aber bei Anthropic wird niemand das für Sie debuggen.

Welche drei Möglichkeiten haben Sie?

Weg Funktionsweise Am besten für Nachteil
Übersetzender Proxy (LiteLLM) Claude Code spricht im Anthropic-Format mit einem lokalen Proxy; der Proxy ruft den OpenAI-kompatiblen Anbieter auf Die Nutzung eines bestimmten OpenAI-kompatiblen Anbieters, etwa BroadNet Ein weiterer Prozess, der betrieben und aktualisiert werden muss; Übersetzungslücken
Nativer Endpoint im Anthropic-Format Der Anbieter akzeptiert /v1/messages selbst DeepSeek- oder GLM-Modelle direkt vom Hersteller Jeder bildet einige Felder ab oder ignoriert sie
Ein anderer Agent Ein Agent, der eine OpenAI-kompatible Basis-URL akzeptiert Alle, die nicht speziell Claude Code brauchen Sie verzichten auf die Oberfläche und Funktionen von Claude Code

Wie betreiben Sie Claude Code über LiteLLM?

Das Tutorial von LiteLLM für Nicht-Anthropic-Modelle funktioniert so: Proxy installieren, Modelle in config.yaml definieren, Proxy starten, dann zwei Variablen für Claude Code setzen. LiteLLM übersetzt zwischen den Formaten, Claude Code sendet also weiterhin Anthropic-Anfragen.

Definieren Sie die BroadNet-Modelle wie im Leitfaden zu LiteLLM, mit dem Präfix openai/ und api_base:

model_list:
  - model_name: glm
    litellm_params:
      model: openai/broadnet/glm-5.3
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30
  - model_name: qwen
    litellm_params:
      model: openai/broadnet/qwen3.8-27b
      api_base: https://inference.broadnet.ai/v1
      api_key: os.environ/BROADNET_API_KEY
      rpm: 30

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY

Starten Sie den Proxy:

uv tool install 'litellm[proxy]'
export BROADNET_API_KEY='your-broadnet-key'
export LITELLM_MASTER_KEY='sk-any-local-secret'
litellm --config config.yaml   # listens on http://0.0.0.0:4000

Richten Sie dann Claude Code darauf. ANTHROPIC_AUTH_TOKEN wird als Header Authorization: Bearer gesendet, und genau den liest LiteLLM:

export ANTHROPIC_BASE_URL=http://0.0.0.0:4000
export ANTHROPIC_AUTH_TOKEN="$LITELLM_MASTER_KEY"
export ANTHROPIC_MODEL=glm                  # main model
export ANTHROPIC_DEFAULT_HAIKU_MODEL=qwen   # background tasks
export ANTHROPIC_DEFAULT_SONNET_MODEL=glm   # the sonnet alias
export ANTHROPIC_DEFAULT_OPUS_MODEL=glm     # the opus alias
export CLAUDE_CODE_SUBAGENT_MODEL=glm       # subagents
claude

Führen Sie /status in Claude Code aus. Die Zeile Anthropic base URL sollte die Adresse des Proxys zeigen.

Die Modellvariablen sind wichtig. Die Seite von LiteLLM zu Claude Code warnt: Wählen Sie einen eingebauten Claude-Namen, den Ihre Konfiguration nicht definiert, schlägt das mit „Invalid model name passed in“ fehl. Laut Referenz der Umgebungsvariablen von Claude Code wird ANTHROPIC_DEFAULT_HAIKU_MODEL auch für Hintergrundfunktionen genutzt. Bilden Sie diese Variable also ebenfalls ab, sonst fragen Hintergrundanfragen nach einem Haiku-Namen, den der Proxy nicht kennt. CLAUDE_CODE_SUBAGENT_MODEL setzt das Standardmodell für Subagenten, doch ein Modell, das Claude beim Starten eines Subagenten übergibt, oft ein Alias wie sonnet oder haiku, hat Vorrang. Wenn Sie auch die Aliase sonnet und opus abbilden, landen diese Anfragen trotzdem bei einem Modell, das der Proxy kennt. Bewahren Sie Ihren BroadNet-Schlüssel in der Umgebung des Proxys auf, nie in einer eingecheckten .claude/settings.json eines Projekts.

Welche DeepSeek- und GLM-Endpoints funktionieren ohne Proxy?

Zwei Modellhersteller veröffentlichen Basis-URLs im Anthropic-Format:

Anbieter Basis-URL Umgang mit Modellnamen (laut deren Dokumentation, geprüft am 2026-11-15)
DeepSeek https://api.deepseek.com/anthropic Namen claude-sonnet* und claude-haiku* werden auf deepseek-flash abgebildet; claude-opus* auf deepseek-v4-pro; Namen, die nicht mit claude beginnen, liefern 400
Z.ai (GLM Coding Plan) https://api.z.ai/api/anthropic Schlüssel in ANTHROPIC_AUTH_TOKEN; das Beispiel für die manuelle Einrichtung bildet Opus und Sonnet auf glm-5.3[1m] und Haiku auf glm-5.3-flash[1m] ab

Laut Release-Note von DeepSeek vom 10. September 2026 liefert deepseek-flash DeepSeek-V4.1-Flash aus. Die Seite zur Anthropic API von DeepSeek listet auch auf, was ignoriert wird: unter anderem cache_control, budget_tokens, disable_parallel_tool_use und den Header anthropic-version. Bei deepseek-flash liefern Bilder in Assistant-Nachrichten 400, und deepseek-v4-pro ersetzt Bilder durch „[Unsupported Image]“.

Wenn Sie in Claude Code nur DeepSeek oder GLM wollen, sind diese nativen Endpoints der kürzeste Weg. Preise und Planlimits beider vergleicht die Seite zu Alternativen zur Claude API.

Was hakt oder ändert sich bei einem Nicht-Claude-Modell?

Die Übersetzung hält die Anfragen am Laufen, doch mehrere Funktionen von Claude Code hängen von Dingen ab, die ein Proxy oder ein anderes Modell womöglich nicht weiterreicht. Die Dokumentation von Claude Code nennt diese:

  • Prompt Caching. Claude Code markiert system- und Nachrichtenblöcke mit cache_control. Verwirft das Gateway oder der Upstream das, gibt es keinen Fehler, aber jede Runde wird als ungecachter Input abgerechnet. Bei einem OpenAI-kompatiblen Upstream folgt das Caching stattdessen den eigenen Regeln des Anbieters. BroadNet berechnet gecachten Input zu einem niedrigeren Preis, wenn sein Usage-Block einen Cache-Treffer meldet; prüfen Sie cached_tokens in Ihren Logs.
  • Token-Zählung. Ohne /v1/messages/count_tokens greift Claude Code auf eine zeichenbasierte Schätzung zurück; /context ist dann nur ungefähr.
  • Kontextfenster. Für Modellnamen, die Claude Code nicht kennt, verwendet es sein eigenes Standardfenster. Setzen Sie CLAUDE_CODE_AUTO_COMPACT_WINDOW (100.000 bis 1.000.000 Tokens) passend zum Modell. Für Qwen3.8 27B mit einem Kontext von 262.144 Tokens setzen Sie den Wert deutlich darunter.
  • Unbekannte Felder. Ein 400, das Extra inputs are not permitted oder einen anthropic-beta-Wert nennt, bedeutet, dass etwas im Upstream ein Vorabfeld abgelehnt hat. Die Dokumentation empfiehlt CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1.
  • Thinking. MAX_THINKING_TOKENS und adaptives Thinking sind Claude-Funktionen. Bei BroadNet denken DeepSeek V4.1 Flash, GLM 5.3 und Qwen3.8 27B vor der Antwort nach, und diese Reasoning-Tokens werden auf max_tokens angerechnet. Kommen Antworten leer zurück, erhöhen Sie das Output-Limit oder senden Sie reasoning_effort auf low. Siehe warum Reasoning-Modelle leere Antworten liefern.
  • Bilder. GLM 5.3 verarbeitet bei BroadNet nur Text. Nutzen Sie Qwen3.8 27B, wenn Sie Screenshots einfügen.

Testen Sie eine echte Aufgabe von Anfang bis Ende, mit Dateiänderungen, Shell-Befehlen und einer langen Session, bevor Sie sich darauf verlassen.

Welches BroadNet-Modell gehört hinter Claude Code?

Claude Code liest Dateien, bearbeitet sie und führt Befehle über Tool-Aufrufe aus. Die API-Referenz von BroadNet dokumentiert Tools, strukturierte Ausgabe und Reasoning für zwei Modelle:

Modell Input / Output pro 1 Mio. Tokens Kontext Bilder Tools dokumentiert
GLM 5.3 $0.78 / $3.46 1.048.576 Nein Ja
Qwen3.8 27B $0.175 / $2.17 262.144 Ja Ja
DeepSeek V4.1 Flash $0.175 / $0.52 1.048.576 Ja Nicht dokumentiert

GLM 5.3 ist das naheliegende Hauptmodell für große Repositories. Qwen3.8 27B kostet pro Input-Token weniger und eignet sich für Bilder und leichtere Hintergrundaufrufe. Beide erfordern eine Aufladung; das Startguthaben von $5 deckt sie nicht ab. Der Vergleich GLM 5.3 vs. Qwen3.8 27B stellt beide nebeneinander.

Können Sie die Flatrate von BroadNet mit Claude Code nutzen?

Nicht als dokumentierte Kombination, und das sollten Sie vor dem Kauf wissen. Die Pläne Full Moon, Orbit und Meteor decken nur DeepSeek V4.1 Flash ab, und BroadNet dokumentiert für dieses Modell kein Tool Calling. Jede Plan-Session verarbeitet zudem eine Anfrage gleichzeitig. Claude Code kann neben der Hauptschleife Subagenten und Hintergrundaufgaben ausführen, und diese Anfragen würden sich in einer Session stauen.

Wenn Sie einen Festpreis wollen, nutzen Sie einen Agenten, den BroadNet mit dem Plan dokumentiert, etwa Aider. Für Claude Code nutzen Sie GLM 5.3 oder Qwen3.8 27B per Pay-as-you-go, mit 30 Anfragen pro Minute und 4 gleichzeitigen Anfragen pro Schlüssel. Bei 429 gehen Sie mit Backoff vor wie unter Fehler und Retries beschrieben.

Wann ist ein anderer Agent die bessere Wahl?

Wenn Sie nicht speziell Claude Code brauchen, lassen Sie den Proxy weg. opencode, Cline, Roo Code, Continue und Aider akzeptieren alle direkt eine OpenAI-kompatible Basis-URL, einen Schlüssel und eine Modell-ID. Die Feldnamen für jeden finden Sie unter offene Modelle in Coding-Agenten nutzen, mit Anleitungen für opencode und Cline. Weniger bewegliche Teile bedeuten weniger Übersetzungsfehler. Um Modelle für diese Arbeit zu vergleichen, lesen Sie das beste offene Modell für Coding-Agenten.

Bleiben Sie bei Claude-Modellen, wenn Ihre Arbeit von Claude-spezifischen Funktionen abhängt, etwa Extended Thinking, Prompt Caching von Anthropic oder den neuesten Betas von Claude Code. Dann senken Sie die Kosten innerhalb von Claude Code, statt das Modell zu tauschen.

Wo BroadNet Inference einzuordnen ist

BroadNet Inference ist eine OpenAI-kompatible API und erreicht Claude Code daher nur über einen Proxy wie LiteLLM. Dahinter sind GLM 5.3 und Qwen3.8 27B die beiden Modelle mit dokumentiertem Tool Calling, abgerechnet pro Token und ohne Speicherung von Inhalten nach der Anfrage. Wenn Sie einen nativen Endpoint im Anthropic-Format wollen, sind DeepSeek und Z.ai einfacher. Wenn Sie die Flatrate von BroadNet wollen, kombinieren Sie sie mit einem Agenten, der das OpenAI-Format spricht.

Häufige Fragen

Kann Claude Code DeepSeek nutzen?

Ja, auf zwei Wegen. DeepSeek veröffentlicht eine Basis-URL im Anthropic-Format, https://api.deepseek.com/anthropic, die Namen wie claude-sonnet und claude-haiku auf deepseek-flash und Namen wie claude-opus auf deepseek-v4-pro abbildet. Oder Sie schalten einen übersetzenden Proxy wie LiteLLM vor einen beliebigen OpenAI-kompatiblen Host von DeepSeek-Modellen.

Funktioniert Claude Code mit einer OpenAI-kompatiblen API?

Nicht direkt. Claude Code sendet Anfragen der Anthropic Messages API an /v1/messages. Ein Proxy wie LiteLLM nimmt diese Anfragen an, leitet sie an einen /chat/completions-Endpoint im OpenAI-Stil weiter und übersetzt die Antwort zurück.

Unterstützt Anthropic die Nutzung von Claude Code mit anderen Modellen?

Nein. Laut Gateway-Dokumentation von Claude Code unterstützt Anthropic es nicht, Claude Code über irgendein Gateway an Nicht-Claude-Modelle zu leiten. In der Praxis funktioniert es bei vielen, aber Fehler auf diesem Weg müssen Sie selbst debuggen.

Welches BroadNet-Modell sollte ich hinter Claude Code nutzen?

GLM 5.3 oder Qwen3.8 27B. BroadNet dokumentiert Tool Calling nur für diese beiden, und Claude Code bearbeitet Dateien und führt Befehle über Tools aus. GLM 5.3 hat einen Kontext von 1.048.576 Tokens; Qwen3.8 27B hat 262.144 und akzeptiert Bilder.

Kann ich Claude Code mit dem unbegrenzten Plan von BroadNet betreiben?

Nicht als dokumentierte Kombination. Die Flatrate-Pläne decken nur DeepSeek V4.1 Flash ab, und BroadNet dokumentiert für dieses Modell kein Tool Calling. Eine Plan-Session verarbeitet zudem eine Anfrage gleichzeitig, während Claude Code Subagenten parallel ausführen kann.

Warum meldet Claude Code über LiteLLM „Invalid model name“?

Claude Code hat einen Modellnamen angefordert, den Ihre config.yaml nicht definiert, oft ein eingebauter Claude-Alias oder das Haiku-Modell für Hintergrundaufgaben. Setzen Sie ANTHROPIC_MODEL und ANTHROPIC_DEFAULT_HAIKU_MODEL auf Namen aus Ihrer model_list.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen