BroadRouter

Input- und Output-Tokens

Aktualisiert

Input-Tokens sind die Tokens, die ein Sprachmodell in einer Anfrage liest, einschließlich System-Prompt, Gesprächsverlauf, Tool-Definitionen und Bildern. Output-Tokens sind die Tokens, die es als Antwort erzeugt, einschließlich Reasoning. LLM-APIs berechnen beide meist getrennt, und Output ist in der Regel teurer.

Auch genannt: Input-Tokens, Output-Tokens, Eingabe-Tokens, Ausgabe-Tokens, Prompt-Tokens, Completion-Tokens, prompt tokens, completion tokens, input tokens, output tokens

Jede LLM-Anfrage hat zwei Seiten: was Sie senden und was zurückkommt. APIs zählen beides in Tokens, und die meisten berechnen dafür unterschiedliche Preise.

So funktioniert es

Input ist alles in der Anfrage: der System-Prompt, jede frühere Nachricht, Tool-Definitionen, Tool-Ergebnisse, Dokumente und Bilder. Ein Chat über mehrere Runden sendet in jeder Runde den gesamten Verlauf erneut, der Input wächst also mit dem Gespräch.

Output ist alles, was das Modell erzeugt: die sichtbare Antwort, Tool-Aufrufe und bei Reasoning-Modellen die versteckten Reasoning-Tokens.

Der Block usage meldet beides:

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

Die Kosten einer Anfrage betragen:

(new input × input price) + (cached input × cached price) + (output × output price), also neuer Input mal Input-Preis plus gecachter Input mal Cache-Preis plus Output mal Output-Preis, jeweils pro 1 Mio. Tokens.

Warum es wichtig ist

Das Verhältnis zwischen beiden entscheidet, welcher Preis zählt. Ein Chat-Assistent erzeugt auf eine kurze Frage vielleicht einige hundert Tokens. Ein Coding-Agent sendet in jeder Runde einen großen Repository-Kontext erneut und schreibt einen kurzen Patch. Der Input kann den Output dann im Verhältnis 20 zu 1 oder mehr übersteigen. Bei Agenten bestimmen der Input-Preis und der Preis für gecachten Input den Großteil der Rechnung.

Der Output verdient trotzdem Aufmerksamkeit. Reasoning-Modelle können mehr Tokens für das Nachdenken als für die Antwort verbrauchen, und diese werden als Output berechnet. Das typische Preisverhältnis von Output zu Input bei den Modellen, die wir verfolgen, finden Sie im Preisindex für LLM-APIs.

Bei BroadNet Inference

Pro 1 Mio. Tokens, laut der veröffentlichten Preisdatei:

Modell Input Gecachter Input Output
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

Im Rechenbeispiel von BroadNet sendet ein Coding-Agent im Vollzeitbetrieb 1.000 Millionen Input-Tokens pro Monat mit 80 % Cache-Treffern und erhält 50 Millionen Output-Tokens zurück. Mit DeepSeek V4.1 Flash pro Token kostet das $65.40. Ein Flatrate-Plan schafft den Zähler ab: Full Moon kostet $60 pro Monat und Session. Vergleichen Sie Ihre eigenen Zahlen mit dem Preisrechner oder lesen Sie Flatrate vs. Abrechnung pro Token.

Häufige Fehler

  • Nur die sichtbare Antwort einpreisen und die Reasoning-Tokens vergessen.
  • Unterschätzen, wie schnell der Verlauf wächst. Runde 30 eines Chats kann den Input von 30 Runden mitschleppen.

Häufige Fragen

Was ist der Unterschied zwischen Prompt-Tokens und Input-Tokens?

Keiner. Das Format von Chat Completions nennt sie prompt_tokens und completion_tokens. Neuere APIs wie die Responses API von OpenAI und die Messages API von Anthropic nennen sie input_tokens und output_tokens.

Warum ist Output teurer als Input?

Ein Modell liest den gesamten Prompt in einem parallelen Durchgang, erzeugt den Output aber Token für Token. Jedes Output-Token braucht deshalb mehr GPU-Zeit.

Werden Tool-Definitionen berechnet?

Ja. Tool-Schemas und Tool-Ergebnisse gehören zum Prompt. Sie sind also bei jeder Anfrage, die sie enthält, Input-Tokens.

Als Markdown lesenChatGPT fragenClaude fragenPerplexity fragen