BroadRouter

Girdi ve çıktı token'ları

Güncellendi

Girdi token'ları, bir dil modelinin istekte okuduğu token'lardır: sistem istemi, konuşma geçmişi, araç tanımları ve görseller dahil. Çıktı token'ları ise modelin yanıt olarak ürettikleridir, akıl yürütme dahil. LLM API'leri bunları genellikle ayrı fiyatlandırır ve çıktı genellikle daha pahalıdır.

Diğer adları: girdi token, çıktı token, giriş token, çıkış token, istem token'ları, tamamlama token'ları, input tokens, output tokens, prompt tokens, completion tokens

Her LLM isteğinin iki tarafı vardır: gönderdiğiniz ve geri gelen. API’ler ikisini de token cinsinden sayar ve çoğu farklı ücretlerle faturalandırır.

Nasıl çalışır

Girdi, istekteki her şeydir: sistem istemi, önceki her mesaj, araç tanımları, araç sonuçları, belgeler ve görseller. Çok turlu bir sohbet her turda tüm geçmişi yeniden gönderir; bu yüzden girdi konuşmayla birlikte büyür.

Çıktı, modelin ürettiği her şeydir: görünür yanıt, araç çağrıları ve akıl yürütme modellerinde gizli akıl yürütme token’ları.

Kullanım bloğu ikisini de bildirir:

"usage": {
  "prompt_tokens": 18000,
  "completion_tokens": 900,
  "prompt_tokens_details": { "cached_tokens": 15000 },
  "completion_tokens_details": { "reasoning_tokens": 600 }
}

Tek bir isteğin maliyeti şöyledir:

(new input × input price) + (cached input × cached price) + (output × output price); yani (yeni girdi × girdi fiyatı) + (önbellekli girdi × önbellekli fiyat) + (çıktı × çıktı fiyatı), her fiyat 1M token başınadır.

Neden önemli

İkisi arasındaki oran, hangi fiyatın önemli olduğunu belirler. Bir sohbet asistanı kısa bir soru için birkaç yüz token üretebilir. Bir kodlama ajanı ise her turda büyük bir depo bağlamını yeniden gönderir ve kısa bir yama yazar; bu yüzden girdi, çıktıyı 20’ye 1 veya daha fazla oranla geçebilir. Ajanlar için faturanın çoğunu girdi fiyatı ve önbellekli girdi fiyatı belirler.

Çıktıyı izlemek yine de önemlidir. Akıl yürütme modelleri düşünmeye yanıtlamaktan daha fazla token harcayabilir ve bunlar çıktı olarak faturalandırılır. Takip ettiğimiz modellerde tipik çıktı-girdi fiyat oranı LLM API fiyat endeksinde.

BroadNet Inference’ta

Yayımlanan fiyat dosyasına göre 1M token başına:

Model Girdi Önbellekli girdi Çıktı
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52
GLM 5.3 $0.78 $0.173 $3.46
Qwen3.8 27B $0.175 $0.0435 $2.17
BroadNet Gemma 4 VL 26B $0.10 — $0.22

BroadNet’in örnek hesabında tam zamanlı bir kodlama ajanı ayda %80 önbellek isabetiyle 1.000 milyon girdi token’ı gönderiyor ve 50 milyon çıktı token’ı alıyor. Token başına DeepSeek V4.1 Flash ile bu $65.40 tutarındadır. Sabit fiyatlı bir plan sayacı ortadan kaldırır: Full Moon oturum başına aylık $60. Kendi rakamlarınızı fiyat hesaplayıcısında karşılaştırın veya sabit fiyat ile token başına ödeme yazısını okuyun.

Sık yapılan hatalar

  • Yalnızca görünür yanıtı fiyatlandırıp akıl yürütme token’larını unutmak.
  • Geçmişin ne kadar hızlı büyüdüğünü göz ardı etmek. Bir sohbetin 30. turu, 30 turluk girdi taşıyabilir.

Sık sorulan sorular

İstem token'ları ile girdi token'ları arasındaki fark nedir?

Fark yok. Chat Completions biçimi bunlara prompt_tokens ve completion_tokens der. OpenAI'nin Responses API'si ve Anthropic'in Messages API'si gibi daha yeni API'ler ise input_tokens ve output_tokens der.

Çıktı neden girdiden daha pahalı?

Model istemin tamamını tek bir paralel geçişte okur, ancak çıktıyı her seferinde bir token üretir; bu yüzden her çıktı token'ı daha fazla GPU süresi alır.

Araç tanımları faturalandırılır mı?

Evet. Araç şemaları ve araç sonuçları istemin parçasıdır; bu yüzden onları içeren her istekte girdi token'ı sayılırlar.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor