---
title: "smolagents: OpenAIModel mit eigener api_base | BroadRouter"
description: "Hugging Face smolagents per OpenAIModel und api_base an BroadNet Inference anbinden: CodeAgent auf jedem Modell, ToolCallingAgent auf GLM 5.3 und Qwen3.8 27B."
url: https://broadrouter.com/de/guides/smolagents-openai-compatible/
lang: de
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/guides/smolagents-openai-compatible/) (aktualisiert am 2026-11-16).

# smolagents mit OpenAIModel auf BroadNet Inference betreiben

Aktualisiert 2026-11-16

Erstellen Sie in smolagents ein OpenAIModel mit model\_id auf einer BroadNet-ID wie broadnet/glm-5.3, api\_base auf https://inference.broadnet.ai/v1 und api\_key auf Ihrem BroadNet-Schlüssel, und übergeben Sie es an CodeAgent oder ToolCallingAgent. CodeAgent schreibt Python statt nativer Tool Calls und läuft daher auch auf DeepSeek V4.1 Flash. ToolCallingAgent braucht GLM 5.3 oder Qwen3.8 27B.

smolagents ist die schlanke Python-Bibliothek von Hugging Face für Agenten. Ihre Klasse `OpenAIModel` „connects to an OpenAI-compatible API server“ (Übersetzung: „verbindet sich mit einem OpenAI-kompatiblen API-Server“), die URL steht in `api_base`. BroadNet Inference stellt unter `https://inference.broadnet.ai/v1` Chat Completions bereit, daher funktioniert das direkt. BroadRouter ist die Website von BroadNet; diese Anleitung folgt der Dokumentation von smolagents 1.26.0.

## Installation

```bash
pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'
```

## CodeAgent

```python
import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))
```

`CodeAgent` lässt das Modell Python zwischen `<code>`\-Tags schreiben und führt es lokal aus. Die Anfrage ist eine einfache Chat Completion mit Stoppsequenzen wie `</code>` und ohne `tools`\-Feld. Sie hängt also nicht von nativem Tool Calling ab und läuft daher auch auf `broadnet/deepseek-v4.1-flash`, dem Modell der [unbegrenzten Pläne](https://broadrouter.com/de/guides/unlimited-llm-api-sessions/) von BroadNet. Die Codequalität schwankt trotzdem je nach Modell; testen Sie also Ihre eigenen Aufgaben.

CodeAgent führt Code aus, den das Modell schreibt. Lesen Sie die Hinweise von smolagents zur sicheren Codeausführung, bevor Sie ihm Tools geben, die auf Dateien, Netzwerke oder Zugangsdaten zugreifen.

## ToolCallingAgent

```python
from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))
```

`ToolCallingAgent` sendet Ihre Tools und sein eigenes Tool `final_answer` als Function-Schemas mit `tool_choice: "required"`. Nutzen Sie `broadnet/glm-5.3` oder `broadnet/qwen3.8-27b`; die BroadNet-Dokumentation nennt Tools nur für diese beiden Modelle.

## Welches Modell passt?

| Agent | Modell |
| --- | --- |
| `CodeAgent`, lange Läufe mit einem Flatrate-Plan | `broadnet/deepseek-v4.1-flash` |
| `ToolCallingAgent` | `broadnet/glm-5.3` |
| Beide Agenten mit Bildeingabe | `broadnet/qwen3.8-27b` |

Eine Plan-Session verarbeitet immer nur eine Anfrage, und ein Agent sendet seine Schritte nacheinander; eine Session passt also zu einem Agenten. [Preise für alle Modelle](https://broadrouter.com/de/pricing/).

## So haben wir das getestet

Am 2026-11-15 haben wir smolagents 1.26.0 in einer frischen virtuellen Umgebung installiert und beide Agenten gegen einen lokalen Mock-Server ausgeführt, der das Chat-Completions-Format von BroadNet spricht. Der `CodeAgent` mit der DeepSeek-ID erhielt eine Code-Antwort, führte sie aus und gab 42 zurück. Seine Anfragen enthielten `max_tokens: 4000`, Stoppsequenzen und keine Tools. Beim `ToolCallingAgent` haben wir die Form der Anfrage geprüft: Die Modell-ID wurde unverändert gesendet, mit beiden Tool-Schemas und `tool_choice: "required"`. smolagents schickt Tool-Ergebnisse als User-Nachrichten zurück. Unser Mock folgte diesem Format nicht, daher haben wir diesen Agenten nicht bis zu einer finalen Antwort laufen lassen. Wir hatten keinen BroadNet-Schlüssel und haben daher keine echte Modellausgabe getestet.

## Fehlerbehebung

-   **401.** Der Schlüssel ist falsch, abgelaufen oder sein Kontingent ist aufgebraucht.
-   **404.** `api_base` muss auf `/v1` enden. Prüfen Sie die Modell-ID. Kostenpflichtige Modelle brauchen eine Aufladung; das Guthaben von $5 deckt nur `broadnet/gemma-4-26b-a4b` und die beiden Transcribe-Modelle ab.
-   **„Make sure to provide correct code blobs“.** Die Antwort des Modells enthielt keinen Codeblock. Erhöhen Sie `max_tokens`, weil Reasoning dazu zählt, oder probieren Sie ein anderes Modell. [Warum Antworten leer zurückkommen](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/).
-   **ToolCallingAgent wird nie fertig.** Wechseln Sie zu `broadnet/glm-5.3` oder `broadnet/qwen3.8-27b`.
-   **429.** Ein Pay-as-you-go-Schlüssel erlaubt 30 Anfragen pro Minute. smolagents kann sich mit `requests_per_minute` selbst drosseln. Siehe [Fehlercodes und Retries](https://broadrouter.com/de/guides/errors-and-retries/).

## Begriffe in dieser Anleitung

[Tool Calling (Function Calling)](https://broadrouter.com/de/glossary/tool-calling/)

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

[Rate Limit (Ratenbegrenzung)](https://broadrouter.com/de/glossary/rate-limit/)

Ein Rate Limit ist eine Obergrenze, die eine API festlegt, wie stark ein Client sie in einem Zeitfenster nutzen darf, etwa Anfragen pro Minute oder Tokens pro Minute. Anfragen über dem Limit werden abgelehnt, meist mit HTTP 429 Too Many Requests, bis die Nutzung wieder darunter liegt.

[Stoppsequenzen (Stop Sequences)](https://broadrouter.com/de/glossary/stop-sequences/)

Stop Sequences (Stoppsequenzen) sind Zeichenfolgen, die Sie mit einer Anfrage senden und die das Modell stoppen, sobald es eine davon erzeugt. OpenAI nennt das Feld stop und akzeptiert bis zu 4 Sequenzen; Anthropic nennt es stop\_sequences. Der gefundene Text fehlt normalerweise im zurückgegebenen Output.

[Chat Completions API](https://broadrouter.com/de/glossary/chat-completions-api/)

Die Chat Completions API ist der HTTP-Endpoint von OpenAI, POST /v1/chat/completions, der einen Modellnamen und eine Liste von Nachrichten mit Rollen entgegennimmt und die nächste Nachricht des Modells zurückgibt. Ihr Format für Anfrage und Antwort wurde zum gemeinsamen Standard, den OpenAI-kompatible Anbieter und SDKs übernehmen.

[LLM-Flatrate (Flat-rate LLM plan)](https://broadrouter.com/de/glossary/flat-rate-llm-plan/)

Eine LLM-Flatrate ist ein Plan, der für den Zugang zu einer Sprachmodell-API einen Festpreis pro Zeitraum, etwa pro Monat, berechnet statt pro Token. Solche Pläne begrenzen meist etwas anderes, etwa Parallelität, Geschwindigkeit, Modelle oder Nutzungsfenster. Die Limits zählen also so viel wie der Preis.

[OpenAI-kompatible API](https://broadrouter.com/de/glossary/openai-compatible-api/)

Eine OpenAI-kompatible API ist eine HTTP-API, die dieselben Anfrage- und Antwortformate wie die OpenAI API akzeptiert, etwa POST /v1/chat/completions. OpenAI-SDKs und Tools können sie deshalb nutzen, wenn nur Basis-URL, API-Schlüssel und Modellname geändert werden.

[Pay-as-you-go](https://broadrouter.com/de/glossary/pay-as-you-go/)

Pay-as-you-go ist ein Preismodell, bei dem Sie nur für tatsächliche Nutzung zahlen, gemessen pro Einheit wie Tokens, Anfragen oder Audiominuten, ohne Abonnement oder Mindestabnahme. Die meisten LLM-APIs rechnen so ab, aus einem vorausbezahlten Guthaben oder per regelmäßiger Rechnung.

[Prepaid-Guthaben (Prepaid Credit)](https://broadrouter.com/de/glossary/prepaid-credit/)

Prepaid-Guthaben ist Geld, das vor der Nutzung auf ein API-Konto eingezahlt wird. Jede Anfrage zieht ihre Kosten vom Guthaben ab, und wenn es aufgebraucht ist, stoppen abgerechnete Anfragen, bis Sie aufladen. So sind die Ausgaben auf das eingezahlte Geld begrenzt.

## Häufige Fragen

### Heißt es OpenAIModel oder OpenAIServerModel?

smolagents 1.26 dokumentiert OpenAIModel für jeden OpenAI-kompatiblen Server. OpenAIServerModel exportiert das Paket zwar noch, die Dokumentation beschreibt aber OpenAIModel.

### Läuft smolagents mit dem unbegrenzten Plan von BroadNet?

Die Pläne decken DeepSeek V4.1 Flash ab. BroadNet nennt dafür kein Tool Calling, doch CodeAgent braucht keine nativen Tool Calls; er fordert vom Modell Python-Code an. In unserem Test mit einem Mock-Server sendete ein CodeAgent mit der DeepSeek-ID einfache Chat-Anfragen ohne tools-Feld.

### Warum braucht ToolCallingAgent GLM 5.3 oder Qwen3.8 27B?

Er sendet die Tools als OpenAI-Function-Schemas mit tool\_choice auf required. Die BroadNet-Dokumentation nennt Tools nur für GLM 5.3 und Qwen3.8 27B.

### Wie übergebe ich max\_tokens oder temperature?

Als Keyword-Argumente an OpenAIModel. Laut smolagents-Dokumentation werden zusätzliche Argumente an jeden Completion-Aufruf weitergereicht. In unserem Test wurde max\_tokens=4000 bei jeder Anfrage gesendet.

## Verwandte Anleitungen

-   [OpenAI Python SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-python-sdk/)
-   [So funktionieren die unbegrenzten LLM-API-Pläne für Agenten](https://broadrouter.com/de/guides/unlimited-llm-api-sessions/)
-   [Warum ein Reasoning-Modell eine leere Antwort liefert](https://broadrouter.com/de/guides/reasoning-tokens-empty-response/)
-   [Fehlercodes von BroadNet Inference: Wann ist ein Retry sinnvoll?](https://broadrouter.com/de/guides/errors-and-retries/)
-   [Alle Tools, die mit BroadNet Inference funktionieren (auf Englisch)](https://broadrouter.com/integrations/): SDKs, Coding-Agenten, Chat-Oberflächen und Automatisierungstools, jeweils mit den genauen Einstellungen

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-smolagents-openai-compatible&utm_content=page-cta) ·

**Quellen**

-   [smolagents-Dokumentation v1.26.0, Referenz Models (OpenAIModel) (geprüft am 2026-11-15)](https://huggingface.co/docs/smolagents/reference/models)
-   [PyPI, smolagents 1.26.0 (geprüft am 2026-11-15)](https://pypi.org/project/smolagents/)
-   [API-Referenz von BroadNet Inference (geprüft am 2026-11-15) (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-guides-smolagents-openai-compatible&utm_content=sources)
