---
title: "Was ist Tool Calling (Function Calling) bei LLM-APIs?"
description: "Mit Tool Calling bittet ein LLM Ihren Code, eine Funktion mit JSON-Argumenten auszuführen. Die Schleife aus Anfrage und Ergebnis, Token-Kosten und Agenten."
url: https://broadrouter.com/de/glossary/tool-calling/
lang: de
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Mit KI-Unterstützung aus dem Englischen übersetzt. [Englisches Original lesen](https://broadrouter.com/glossary/tool-calling/) (aktualisiert am 2026-11-14).

# Tool Calling (Function Calling)

Aktualisiert 2026-11-14

Tool Calling, auch Function Calling genannt, ist eine Funktion von LLM-APIs, bei der das Modell eine strukturierte Anfrage zurückgibt, eine vom Entwickler definierte Funktion mit JSON-Argumenten auszuführen. Die Anwendung führt die Funktion aus und sendet das Ergebnis zurück; das Modell selbst führt nie Code aus.

Auch genannt: Tool Calling, Function Calling, Funktionsaufruf, Tool-Aufruf, Tool Use, Tools, function calling, tool use, tools, tool\_calls

Mit Tool Calling wirkt ein Sprachmodell auf die Welt ein: Es bittet Ihren Code, etwas nachzuschlagen, eine Abfrage auszuführen oder eine Datei zu bearbeiten, und nutzt dann das Ergebnis.

## So funktioniert es

Der Leitfaden von OpenAI beschreibt eine Schleife zwischen Ihrer App und dem Modell:

1.  **Tools senden.** Die Anfrage listet Funktionen mit Namen, Beschreibung und einem JSON Schema für die Argumente.
2.  **Einen Tool Call erhalten.** Braucht das Modell ein Tool, gibt es statt einer endgültigen Antwort den Funktionsnamen und JSON-Argumente zurück.
3.  **Ausführen.** Ihr Code führt die Funktion aus. Der Leitfaden von OpenAI verortet diesen Schritt auf „the application side“ (Übersetzung: „der Seite der Anwendung“); das Modell selbst führt nie Code aus.
4.  **Das Ergebnis zurückgeben**, mit der passenden Call-ID.
5.  **Die Antwort erhalten** oder einen weiteren Tool Call. Bei Bedarf wiederholen.

Im Format von Chat Completions sieht eine Tool-Definition so aus:

```json
{
  "type": "function",
  "function": {
    "name": "get_order_status",
    "description": "Look up an order by ID",
    "parameters": {
      "type": "object",
      "properties": { "order_id": { "type": "string" } },
      "required": ["order_id"]
    }
  }
}
```

Die Antwort enthält `finish_reason: "tool_calls"` und eine Liste `tool_calls`. Jeder Eintrag hat eine `id`, den Funktionsnamen und `arguments` als JSON-String. Sie hängen eine Message mit `role: "tool"`, derselben `tool_call_id` und dem Ergebnis an und rufen die API erneut auf.

## Warum es wichtig ist

-   **Agenten.** Coding-Agenten, Support-Bots und Datenassistenten sind im Kern Schleifen aus Tool Calls.
-   **Kosten.** Jeder Durchlauf ist eine neue Anfrage, die Gespräch, Tool-Definitionen und Tool-Ergebnisse erneut als [Input-Tokens](https://broadrouter.com/de/glossary/input-and-output-tokens/) sendet. Bei langen Tool-Schleifen werden [gecachter Input](https://broadrouter.com/de/glossary/cached-input-tokens/) und eine stabile Reihenfolge der Tools wichtig.
-   **Sicherheit.** Die Argumente stammen vom Modell. Validieren Sie sie, bevor Sie etwas ausführen, das Daten ändert oder Geld ausgibt.

Für eine Antwort, die einem Schema entsprechen muss, aber keine Funktion braucht, ist [strukturierte Ausgabe](https://broadrouter.com/de/glossary/structured-output/) das einfachere Werkzeug.

## Bei BroadNet Inference

Die BroadNet-Dokumentation nennt Tool Calling für [GLM 5.3](https://broadrouter.com/de/models/glm-5.3/) und [Qwen3.8 27B](https://broadrouter.com/de/models/qwen3.8-27b/), beide mit strukturierter Ausgabe und Reasoning. Für DeepSeek V4.1 Flash und BroadNet Gemma 4 VL 26B gibt sie keine Tool-Unterstützung an. Testen Sie Ihre eigene Tool-Schleife mit dem Modell, das Sie ausliefern wollen.

Beide genannten Modelle denken vor der Antwort nach, und Reasoning zählt zu `max_tokens`; lassen Sie also Platz, sonst kann ein Tool Call abgeschnitten werden. Siehe [Reasoning-Tokens](https://broadrouter.com/de/glossary/reasoning-tokens/). Für Agenten-Tools mit eigenem Tool-Format lesen Sie die [Anleitung zu Cline](https://broadrouter.com/de/guides/cline-openai-compatible/) und die [Anleitung zum Vercel AI SDK](https://broadrouter.com/de/guides/vercel-ai-sdk-openai-compatible/).

## Häufige Fehler

-   `arguments` als Objekt parsen. Das Feld kommt als JSON-String an; dekodieren Sie es und behandeln Sie Fehler.
-   Die `tool_call_id` vergessen. Ohne sie kann das Modell Ergebnisse nicht den Aufrufen zuordnen.

## Häufige Fragen

### Führt das Modell meine Funktion aus?

Nein. Das Modell gibt nur den Funktionsnamen und die Argumente zurück. Ihr Code entscheidet, ob er sie ausführt, führt sie aus und sendet das Ergebnis in einer Tool-Message zurück.

### Kann das Modell mehrere Tools auf einmal aufrufen?

Viele APIs erlauben parallele Tool Calls und liefern dann mehrere Einträge in tool\_calls in einer Antwort. Ihr Code führt jeden aus und gibt ein Ergebnis pro tool\_call\_id zurück.

### Welche BroadNet-Modelle unterstützen Tool Calling?

Die BroadNet-Dokumentation nennt Tools für GLM 5.3 und Qwen3.8 27B. Für DeepSeek V4.1 Flash und BroadNet Gemma 4 VL 26B gibt sie keine Tool-Unterstützung an; testen Sie dort also, bevor Sie sich darauf verlassen.

## Siehe auch

-   [Strukturierte Ausgabe (Structured Output)](https://broadrouter.com/de/glossary/structured-output/) (Begriff)
-   [Input- und Output-Tokens](https://broadrouter.com/de/glossary/input-and-output-tokens/) (Begriff)
-   [Gecachte Input-Tokens (Cached Input Tokens)](https://broadrouter.com/de/glossary/cached-input-tokens/) (Begriff)
-   [OpenAI-kompatible API](https://broadrouter.com/de/glossary/openai-compatible-api/) (Begriff)
-   [KI-Agent (AI Agent)](https://broadrouter.com/de/glossary/agent/) (Begriff)
-   [MCP (Model Context Protocol)](https://broadrouter.com/de/glossary/mcp/) (Begriff)
-   [JSON-Modus (JSON mode)](https://broadrouter.com/de/glossary/json-mode/) (Begriff)
-   [Prompt Injection](https://broadrouter.com/de/glossary/prompt-injection/) (Begriff)
-   [tool\_choice](https://broadrouter.com/de/glossary/tool-choice/) (Begriff)
-   [Parallele Tool Calls (Parallel Tool Calls)](https://broadrouter.com/de/glossary/parallel-tool-calls/) (Begriff)
-   [JSON Schema](https://broadrouter.com/de/glossary/json-schema/) (Begriff)
-   [OpenAI Python SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/openai-python-sdk/) (Anleitung)
-   [Cline mit BroadNet Inference nutzen (Provider OpenAI Compatible)](https://broadrouter.com/de/guides/cline-openai-compatible/) (Anleitung)
-   [Das Vercel AI SDK mit BroadNet Inference nutzen](https://broadrouter.com/de/guides/vercel-ai-sdk-openai-compatible/) (Anleitung)
-   [Parallele Coding-Agenten mit einer LLM-API-Flatrate betreiben](https://broadrouter.com/de/blog/run-parallel-coding-agents-flat-rate/) (Artikel)
-   [Wann sich ein Kontextfenster mit 1M Tokens lohnt (und wann nicht)](https://broadrouter.com/de/blog/million-token-context-window-guide/) (Artikel)

Testen Sie es mit Ihrem echten Workload. Neue Konten starten mit USD 5 Guthaben für Gemma und Transkription. DeepSeek, GLM und Qwen3.8 erfordern eine Aufladung.

[Loslegen](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-glossary-tool-calling&utm_content=page-cta) ·

**Quellen**

-   [OpenAI, Leitfaden zu Function Calling](https://developers.openai.com/api/docs/guides/function-calling)
-   [OpenAI-API-Referenz, Chat Completion erstellen (tools)](https://developers.openai.com/api/reference/resources/chat/subresources/completions/methods/create)
-   [API-Referenz von BroadNet Inference, Modelle (auf Englisch)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=de-glossary-tool-calling&utm_content=sources#models)
