BroadRouter
Loslegen

KI-Agent (AI Agent)

Aktualisiert

Ein KI-Agent ist ein System, in dem ein Sprachmodell seine eigenen Schritte auf ein Ziel hin steuert: Es entscheidet, welche Tools es aufruft, liest die Ergebnisse und wiederholt das, bis es eine endgültige Antwort liefert oder an ein Limit stößt. Ein festes Skript, das ein Modell an vorgegebenen Stellen aufruft, heißt dagegen meist Workflow.

Auch genannt: KI-Agent, KI-Agenten, LLM-Agent, Agentic AI, agentische KI, autonomer Agent, Agenten-Schleife, AI agent, LLM agent, agentic AI, autonomous agent, agent loop, AI agents

Ein Agent ist ein Modell in einer Schleife: fragen, mit einem Tool handeln, das Ergebnis lesen, neu entscheiden.

So funktioniert es

Anthropic unterscheidet zwei Designs. Workflows sind „systems where LLMs and tools are orchestrated through predefined code paths“ (Übersetzung: „Systeme, in denen LLMs und Tools über vordefinierte Codepfade orchestriert werden“). Agenten sind Systeme, in denen „LLMs dynamically direct their own processes and tool usage“ (Übersetzung: „LLMs ihre eigenen Abläufe und ihre Tool-Nutzung dynamisch steuern“).

Das OpenAI Agents SDK dokumentiert die Schleife selbst. Der Runner ruft das Modell auf. Ist die Antwort eine endgültige Antwort, endet der Lauf. Enthält sie Tool Calls, führt der Runner sie aus, hängt die Ergebnisse an und ruft das Modell erneut auf. Eine Einstellung max_turns begrenzt die Schleife und wirft MaxTurnsExceeded, wenn sie überschritten wird.

Ein Rechenbeispiel: Ein Coding-Agent, der einen fehlschlagenden Test reparieren soll, braucht vielleicht vier Runden.

Turn 1  model -> tool call: run_tests()
Turn 2  model -> tool call: read_file("src/dates.py")
Turn 3  model -> tool call: edit_file("src/dates.py", ...)
Turn 4  model -> final answer: "Fixed the timezone bug; tests pass."

Jede Runde ist eine eigene API-Anfrage. Kommen System-Prompt und Tool-Definitionen auf 5.000 Tokens, werden sie 4-mal gesendet: 20.000 Input-Tokens, bevor Verlauf oder Tool-Output überhaupt mitgezählt sind.

Tools können Ihre eigenen Funktionen sein oder von MCP-Servern stammen, über die ein Agent per gemeinsamem Protokoll an Dateisysteme, Datenbanken und SaaS-APIs andocken kann.

Warum es wichtig ist

  • Die Kosten wachsen mit den Runden. Jede Runde ist eine neue Anfrage, die das Gespräch erneut sendet. Der Beitrag zum Token-Budget von Agenten schlüsselt auf, wohin diese Tokens gehen. Gecachter Input senkt die Rechnung für das wiederholte Präfix.
  • Der Kontext füllt sich. Lange Läufe stoßen an das Kontextfenster und werden schon schlechter, bevor sie es erreichen. Siehe Kontextmanagement für lang laufende Agenten.
  • Fehler summieren sich. Anthropic merkt an, dass Autonomie „higher costs, and the potential for compounding errors“ mit sich bringt (Übersetzung: „höhere Kosten und das Risiko sich aufschaukelnder Fehler“). Bauen Sie Abbruchbedingungen, Guardrails und menschliche Freigaben für Aktionen ein, die Daten ändern oder Geld ausgeben.
  • Parallelität. Mehrere Agenten bedeuten mehrere laufende Anfragen. Das Concurrency-Limit Ihres Anbieters entscheidet, wie viele gleichzeitig laufen können. Kosten von Multi-Agent-Systemen vergleicht für diesen Fall Abrechnung pro Token und Flatrate.

Bei BroadNet Inference

Jedes Agenten-Framework, das eine OpenAI-kompatible Base URL akzeptiert, kann BroadNet aufrufen; die Anleitung zum OpenAI Agents SDK zeigt die Einrichtung. Die BroadNet-Dokumentation nennt Tool Calling für GLM 5.3 und Qwen3.8 27B. Laut BroadNet-Dokumentation erlaubt ein Pay-as-you-go-Schlüssel 30 Anfragen pro Minute und 4 gleichzeitig laufende.

Die Flatrate-Pläne (Full Moon, Orbit, Meteor) decken DeepSeek V4.1 Flash ohne Token-Zähler ab. Eine Session verarbeitet immer nur eine Anfrage, so wie ein einzelner Agent arbeitet; Sie kaufen also eine Session pro Agent, den Sie parallel laufen lassen. Die Dokumentation von BroadNet führt kein Tool Calling für DeepSeek V4.1 Flash auf; testen Sie daher die Tool-Aufrufe Ihres Agents damit, bevor Sie sich auf einen Plan verlassen. Dokumentiertes Tool Calling bedeutet GLM 5.3 oder Qwen3.8 27B per Pay-as-you-go.

Häufige Fragen

Was ist der Unterschied zwischen einem Agenten und einem Workflow?

In einem Workflow legt Ihr Code die Reihenfolge der Modell- und Tool-Aufrufe fest. In einem Agenten wählt das Modell in jeder Runde den nächsten Schritt. Der Leitfaden von Anthropic trennt genau so.

Warum sind Agenten bei Abrechnung pro Token teuer?

Jede Runde sendet System-Prompt, Tool-Definitionen und den wachsenden Verlauf erneut als Input-Tokens. Eine Aufgabe mit 50 Runden kann dasselbe Präfix 50-mal abrechnen; deshalb sind gecachter Input und Flatrate-Pläne wichtig.

Wie verhindere ich, dass ein Agent endlos in einer Schleife läuft?

Legen Sie eine maximale Rundenzahl und ein Token- oder Zeitbudget fest. Das OpenAI Agents SDK zum Beispiel wirft MaxTurnsExceeded, wenn ein Lauf sein Limit max_turns überschreitet.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen