---
title: "LLM çıkarımında saniyedeki token (TPS) nedir? | BroadRouter"
description: "Saniyedeki token (TPS), bir LLM'in çıktıyı ne kadar hızlı ürettiğini ölçer. İstek başına hız ve sistem işlem hacmi, ilk token süresi ve yanıt süresi tahmini."
url: https://broadrouter.com/tr/glossary/tokens-per-second/
lang: tr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/glossary/tokens-per-second/) (güncelleme: 2026-11-14).

# Saniyedeki token (tokens per second, TPS)

Güncellendi 2026-11-14

Saniyedeki token (TPS), bir dil modelinin çıktı token'larını üretme hızıdır ve genellikle tek bir istek için ilk token geldikten sonra ölçülür. Başlayan bir yanıtın ne kadar hızlı akacağını belirler. Tüm eşzamanlı isteklerde toplandığında sistem işlem hacmine dönüşür; ilk token'dan önceki bekleme ayrıca ölçülür.

Diğer adları: saniyedeki token, saniye başına token, token/s, üretim hızı, çıktı hızı, TPS, tok/s, output speed, generation speed, tokens per second

Hızın iki parçası vardır: bir şey görünmeden önce ne kadar beklendiği ve ardından metnin ne kadar hızlı aktığı. Saniyedeki token ikinci parçayı ölçer.

## Nasıl çalışır

NVIDIA’nın kıyaslama belgeleri ilgili metrikleri tanımlar:

-   **İlk token süresi (TTFT):** isteğin gönderilmesinden ilk token’ın alınmasına kadar geçen süre. İstem uzunluğuyla artar.
-   **Token arası gecikme (ITL):** çıktı token’ları arasındaki ortalama aralık.
-   **Kullanıcı başına TPS:** tek bir isteğin çıktı token’larının uçtan uca süresine bölümü; yani NVIDIA’nın tanımında TTFT’yi de içerir. Birçok gösterge paneli ise bu sayfanın yaptığı gibi ilk token’dan sonraki kod çözme hızını verir.
-   **Sistem TPS:** tüm eşzamanlı isteklerdeki toplam çıktı token’ları; [işlem hacmi (throughput)](https://broadrouter.com/tr/glossary/throughput/) olarak da adlandırılır.

Bunlar zıt yönlere çeker. NVIDIA, [eşzamanlılık](https://broadrouter.com/tr/glossary/concurrency/) arttıkça sistem TPS’sinin yükseldiğini, kullanıcı başına TPS’nin ise düştüğünü belirtir. Bir sağlayıcının pazarlama rakamı ile sizin tek isteğinizin hızı ikisi de dürüst olup yine de farklı olabilir.

Tek bir yanıt için hızlı bir tahmin:

`total time ≈ TTFT + output tokens ÷ tokens per second`

Yani toplam süre ≈ TTFT + çıktı token’ları ÷ saniyedeki token. Saniyede 50 token’lık örnek bir akış düşünün: 1.000 token’lık bir yanıt, ilk token’dan sonra yaklaşık 20 saniye sürer. Model ayrıca 2.000 [akıl yürütme token’ı](https://broadrouter.com/tr/glossary/reasoning-tokens/) yazıyorsa, yanıt başlamadan önce yaklaşık 40 saniye ekleyin. [İlk token süresi](https://broadrouter.com/tr/glossary/time-to-first-token/) bunların üzerine gelir.

## Neden önemli

-   **Kullanıcı deneyimi.** [Akış (streaming)](https://broadrouter.com/tr/glossary/streaming/) metni geldikçe gösterir; bu yüzden bir yanıtın ne kadar hızlı hissettireceğini TTFT ve TPS belirler.
-   **Ajan verimi.** Bir kodlama ajanı bir sonraki adımından önce her yanıtı bekler. Daha hızlı çıktı, saatte daha fazla adım demektir.
-   **Plan sınırları.** Token sayacı olmayan bir planda, kullanabileceğiniz token miktarının asıl tavanı hız olur.

## BroadNet Inference’ta

BroadNet’in planlar sayfası, DeepSeek V4.1 Flash için saniyede yaklaşık 100 token tipik hız belirtir. Sınırsız planlardaki bir oturum aynı anda tek istek çalıştırır; bu yüzden bu hızda 30 gün boyunca kesintisiz üretim yapan bir oturum yaklaşık 259 milyon çıktı token’ı üretirdi. Gerçek ajanlar okumaya, araç çalıştırmaya ve beklemeye zaman harcar; bu yüzden pratikteki rakam daha düşüktür.

Bir planda toplam işlem hacmini artırmak için oturum ekleyin: paralel çalışan her ajan için bir tane. Bkz. [sınırsız oturumlar nasıl çalışır](https://broadrouter.com/tr/guides/unlimited-llm-api-sessions/) ve [paralel kodlama ajanları çalıştırma](https://broadrouter.com/tr/blog/run-parallel-coding-agents-flat-rate/).

## Sık yapılan hatalar

-   Sağlayıcıları tek bir istekle karşılaştırmak. TTFT ve TPS’yi kendi istem boyutlarınızla, çok sayıda istek üzerinden ölçün.
-   İstemci zaman aşımlarını ayarlarken akıl yürütme süresini unutmak.

## Sık sorulan sorular

### İyi bir saniyedeki token değeri nedir?

Kullanıma bağlıdır. Bir sohbet yanıtı, metin insanların okuma hızından hızlı göründüğünde akıcı hissettirir. Ajanlar ve toplu işler ise görev başına toplam süreye ve kaç isteğin paralel çalıştığına daha çok önem verir.

### Saniyedeki token istemi de kapsar mı?

Genellikle hayır. Üretim hızı çıktı token'larını sayar. İstemin okunması bunun yerine ilk token süresinde görünür ve istem uzunluğuyla artar.

### Akıl yürütme token'ları yanıtı yavaşlatır mı?

Evet. Görünür çıktıyla aynı hızda üretilirler; bu yüzden 2.000 token boyunca düşünen bir model, yanıtı o token'ların süresi kadar geciktirir.

## Ayrıca bakın

-   [Token](https://broadrouter.com/tr/glossary/token/) (terim)
-   [Eşzamanlılık (concurrency)](https://broadrouter.com/tr/glossary/concurrency/) (terim)
-   [Akış (streaming)](https://broadrouter.com/tr/glossary/streaming/) (terim)
-   [Akıl yürütme token'ları (reasoning tokens)](https://broadrouter.com/tr/glossary/reasoning-tokens/) (terim)
-   [İşlem hacmi (throughput)](https://broadrouter.com/tr/glossary/throughput/) (terim)
-   [Gecikme (latency)](https://broadrouter.com/tr/glossary/latency/) (terim)
-   [İlk token süresi (TTFT)](https://broadrouter.com/tr/glossary/time-to-first-token/) (terim)
-   [Spekülatif çözümleme (speculative decoding)](https://broadrouter.com/tr/glossary/speculative-decoding/) (terim)
-   [Chat completions akışı ve kopan bağlantıları ele alma](https://broadrouter.com/tr/guides/streaming-chat-completions/) (rehber)
-   [Ajanlar için sınırsız LLM API planları nasıl çalışır?](https://broadrouter.com/tr/guides/unlimited-llm-api-sessions/) (rehber)
-   [Sabit fiyatlı mı, token başına mı LLM API: başa baş hesabı](https://broadrouter.com/tr/blog/flat-rate-vs-pay-per-token-llm-api/) (yazı)
-   [Sabit fiyatlı LLM API ile paralel kodlama ajanları nasıl çalıştırılır?](https://broadrouter.com/tr/blog/run-parallel-coding-agents-flat-rate/) (yazı)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-tokens-per-second&utm_content=page-cta) ·

**Kaynaklar**

-   [NVIDIA NIM, LLM çıkarım kıyaslama metrikleri (TTFT, ITL, TPS)](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [BroadNet Inference planları (tipik hız) (İngilizce)](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-tokens-per-second&utm_content=sources)
