---
title: "LLM API'de eşzamanlılık nedir? Aynı anda istek sınırı"
description: "Eşzamanlılık, aynı anda kaç isteğin çalıştığıdır. LLM API'leri onu neden sınırlar, hız sınırları ve gecikmeyle ilişkisi, işçi ve ajan sayısı nasıl belirlenir?"
url: https://broadrouter.com/tr/glossary/concurrency/
lang: tr
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/glossary/concurrency/) (güncelleme: 2026-11-14).

# Eşzamanlılık (concurrency)

Güncellendi 2026-11-14

Eşzamanlılık (concurrency), bir istemcinin aynı anda işlemde olan istek sayısıdır. LLM API'leri bunu genellikle dakikadaki istek sayısından ayrı olarak anahtar veya plan başına sınırlar, çünkü açık her istek yanıtı bitene kadar GPU kapasitesi tutar.

Diğer adları: eşzamanlılık, eşzamanlı istekler, paralel istekler, eşzamanlılık sınırı, concurrency, concurrent requests, parallel requests, in-flight requests, concurrency limit

Hız sınırları zaman içindeki istekleri sayar. Eşzamanlılık ise tek bir andaki istekleri sayar. LLM istekleri saniyelerce sürebildiği için çoğu zaman ilk devreye giren ikinci sınırdır.

## Nasıl çalışır

Little yasası üç sayıyı birbirine bağlar:

`requests in flight = request rate × average time per request`

Yani: işlemdeki istekler = istek hızı × istek başına ortalama süre. Aynı anda 5 isteğe ve dakikada 60 isteğe izin veren varsayımsal bir anahtar düşünün; her istek 20 saniye sürsün. Eşzamanlılık sınırı en fazla saniyede 5 ÷ 20 = 0,25 isteğe, yani dakikada 15 isteğe izin verir. Dakikada 60’a hiçbir zaman ulaşamazsınız, çünkü bağlayıcı sınır eşzamanlılıktır. 2 saniyelik isteklerde aynı sınır dakikada 150 isteğe izin verir ve bu kez bağlayıcı olan hız sınırıdır. [Hız sınırı hesaplayıcısı](https://broadrouter.com/tools/llm-rate-limit-calculator/) bu hesabı kendi sayılarınızla yapar.

Uzun çıktılar, [akıl yürütme token’ları](https://broadrouter.com/tr/glossary/reasoning-tokens/) ve uzun istemler isteklerin daha uzun sürmesine neden olur, dolayısıyla eşzamanlılığı daha hızlı tüketir. [Akışla](https://broadrouter.com/tr/glossary/streaming/) gelen bir yanıt, bitene kadar yuvasını tutar.

## Neden önemli

Sağlayıcılar eşzamanlılığı sınırlar, çünkü GPU belleği ve işlem gücü paylaşılır. NVIDIA’nın kıyaslamaları, bir sunucudaki eşzamanlılık arttıkça toplam çıktının yükseldiğini, ancak her isteğin [saniyedeki token](https://broadrouter.com/tr/glossary/tokens-per-second/) değerinin düştüğünü gösterir. Anahtar başına sınır, tek bir istemcinin herkesi yavaşlatmasını önler.

Uygulamanız için eşzamanlılık, işçi havuzlarının boyutunu ve kaç ajanın yan yana çalışabileceğini belirler. Havuzunuzu sınırın üzerinde değil, sınıra göre boyutlandırın; aksi halde fazladan işçiler yalnızca 429 hatası toplar.

## BroadNet Inference’ta

| Erişim | Eşzamanlılık |
| --- | --- |
| Kullandıkça öde anahtarı | Aynı anda 4 istek, ayrıca dakikada 30 istek |
| Saatlik anahtar | Tek akış |
| Sınırsız plan | Oturum başına aynı anda tek istek |

Planlar doğrudan eşzamanlılık satar. Bir oturumun token sayacı yoktur ve tıpkı tek bir ajanın çalıştığı gibi aynı anda tek istek çalıştırır. Aynı oturumdaki istekler birbirinin arkasında sıraya girer. Ajanları paralel çalıştırmak için ajan başına bir oturum satın alın: bir orkestratör ve üç alt ajan dört oturum gerektirir. Tek bir anahtar birden fazla oturum barındırabilir.

[Sınırsız oturumların nasıl çalıştığını](https://broadrouter.com/tr/guides/unlimited-llm-api-sessions/) ve [sabit fiyatla paralel kodlama ajanlarının nasıl çalıştırılacağını](https://broadrouter.com/tr/blog/run-parallel-coding-agents-flat-rate/) okuyun. Ajanlar zamanlarının büyük kısmını araç çalıştırarak geçirir; bu yüzden daha fazla oturum almadan önce gerçek örtüşmeyi ölçün.

## Sık yapılan hatalar

-   Havuz olmadan her görev için bir işçi başlatmak. 100 görevlik bir toplu iş, aynı anda 100 isteğe dönüşür.
-   İstemci zaman aşımlarını uzun bir akıl yürütme yanıtından kısa ayarlamak. İstemci vazgeçer, ama yuva hâlâ meşguldür.

## Sık sorulan sorular

### Eşzamanlılık sınırını aşarsam ne olur?

Sağlayıcıya göre fazladan gelen istek ya reddedilir, çoğu zaman 429 ile, ya da bir yuva boşalana kadar kuyrukta bekler.

### Akış (streaming) bir eşzamanlılık yuvası kullanır mı?

Evet. Akışla gelen bir yanıt, son parça gelene kadar yuvasını tutar; bu yüzden uzun çıktılar bir yuvayı daha uzun süre meşgul eder.

### Bir yapay zeka kodlama ajanının kaç eşzamanlı isteğe ihtiyacı var?

Bir ajan genellikle bir isteğe ihtiyaç duyar, çünkü bir sonraki adımından önce her yanıtı bekler. Aynı anda çalışan üç alt ajanı olan bir orkestratör en fazla dört isteğe ihtiyaç duyar. Orkestratör alt ajanlar çalışırken istek gönderiyorsa dört, onları bekliyorsa üç gerekir.

## Ayrıca bakın

-   [Hız sınırı (rate limit)](https://broadrouter.com/tr/glossary/rate-limit/) (terim)
-   [Saniyedeki token (tokens per second, TPS)](https://broadrouter.com/tr/glossary/tokens-per-second/) (terim)
-   [Akış (streaming)](https://broadrouter.com/tr/glossary/streaming/) (terim)
-   [Sabit fiyatlı LLM planı (flat-rate)](https://broadrouter.com/tr/glossary/flat-rate-llm-plan/) (terim)
-   [İşlem hacmi (throughput)](https://broadrouter.com/tr/glossary/throughput/) (terim)
-   [Gecikme (latency)](https://broadrouter.com/tr/glossary/latency/) (terim)
-   [Yapay zeka ajanı (AI agent)](https://broadrouter.com/tr/glossary/agent/) (terim)
-   [Ajanlar için sınırsız LLM API planları nasıl çalışır?](https://broadrouter.com/tr/guides/unlimited-llm-api-sessions/) (rehber)
-   [BroadNet Inference hata kodları ve ne zaman yeniden denenmeli](https://broadrouter.com/tr/guides/errors-and-retries/) (rehber)
-   [Sabit fiyatlı LLM API ile paralel kodlama ajanları nasıl çalıştırılır?](https://broadrouter.com/tr/blog/run-parallel-coding-agents-flat-rate/) (yazı)
-   [Sınırsız LLM API planında "sınırsız" gerçekte ne demek?](https://broadrouter.com/tr/blog/what-unlimited-llm-api-really-means/) (yazı)

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-concurrency&utm_content=page-cta) ·

**Kaynaklar**

-   [Little yasası (Wikipedia)](https://en.wikipedia.org/wiki/Little%27s_law)
-   [NVIDIA NIM, LLM kıyaslama metrikleri (eşzamanlılık ve işlem hacmi)](https://docs.nvidia.com/nim/benchmarking/llm/latest/metrics.html)
-   [BroadNet Inference API referansı, sınırlar (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-concurrency&utm_content=sources#limits)
-   [BroadNet Inference planları (oturumlar) (İngilizce)](https://inference.broadnet.ai/plans?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-glossary-concurrency&utm_content=sources)
