“LLM faturanızı %70 düşürün” türü listelerin çoğu, iyi tavsiyeleri kimsenin ölçmediği sayılarla karıştırır. Bu kontrol listesi, önce ne yapılması gerektiğine göre sıralanmıştır ve her rakam bir fiyat dosyasından veya sağlayıcının kendi belgelerinden gelir. Bir adımın bu sitede daha ayrıntılı bir yazısı varsa oraya bağlantı verilir. Aşağıdaki BroadNet fiyatları, 2026-11-14 tarihinde eşitlenen fiyat dosyasından alınmıştır.
LLM API faturasını ne belirler?
Neredeyse her faturayı dört sayı belirler:
- Yeni girdi tokenları. İstemin, önbellekten okunan kısmı çıkarıldıktan sonra kalanı.
- Önbellekli girdi tokenları. Tekrarlanan önek; daha düşük bir ücretle faturalandırılır.
- Çıktı tokenları. Yanıt ve düşünen modellerde buna ek olarak akıl yürütme tokenları.
- İstek sayısı. Her yeniden deneme dahil, her çağrı ayrı faturalandırılır.
Pahalı birim çıktıdır. BroadNet’in sohbet modellerinde, 1M token başına:
| Model | Girdi | Önbellekli girdi | Çıktı |
|---|---|---|---|
| DeepSeek V4.1 Flash | $0.175 | $0.0055 | $0.52 |
| Qwen3.8 27B | $0.175 | $0.0435 | $2.17 |
| GLM 5.3 | $0.78 | $0.173 | $3.46 |
| Gemma 4 VL 26B | $0.10 | yayımlanmadı | $0.22 |
Dolayısıyla kaldıraçlar şunlardır: daha az yeni token gönderin, önbellekten daha fazlasını okuyun, daha az üretin ve daha az çağrı yapın. Her birimin ayrıntısı için LLM API fiyatlandırması nasıl işler yazısına bakın.
Kontrol listesine genel bakış
| Adım | Neyi değiştirirsiniz | Neyi düşürür | Emek |
|---|---|---|---|
| 1. Ölçün | Yalnızca kayıt | Henüz hiçbir şeyi; nereden kesileceğini gösterir | Düşük |
| 2. Öneki önbelleğe alın | İstem sırası | Girdi fiyatı | Düşük |
| 3. İstemi kısaltın | İstem içeriği | Girdi tokenları | Orta |
| 4. Çıktıyı ve akıl yürütmeyi sınırlayın | İstek ayarları | Çıktı tokenları | Düşük |
| 5. Modeli ihtiyaca göre seçin | Model seçimi | Tüm fiyatlar | Orta |
| 6. Toplu çalıştırın veya kaydırın | Zamanlama | Token başına fiyat (sunulduğu yerde) | Orta |
| 7. Yanıtları önbelleğe alın | Uygulama kodu | İsteklerin tamamı | Orta |
| 8. Yeniden denemeleri ve döngüleri sınırlayın | Uygulama kodu | Boşa giden istekler | Düşük |
| 9. Harcama sınırları koyun | Hesap ve anahtarlar | Kontrolden çıkan faturalar | Düşük |
| 10. Sabit fiyatın başa baş noktasını kontrol edin | Faturalandırma modeli | Yüksek hacimde toplam fatura | Düşük |
1. Bir şeyi kesmeden önce neden ölçmelisiniz?
Çünkü fatura nedeni gizler. Aynı görünen iki istek arasında token açısından on kat fark olabilir. Her chat completion yanıtı, prompt_tokens, completion_tokens ve sağlayıcı raporluyorsa önbellekli tokenları içeren bir usage bloğu döndürür. Bunları istem metni olmadan, özellik ve kullanıcı bazında kaydedin. Bir hafta sonra hangi özelliğin en çok harcadığını ve bunun girdiden mi, önbellek ıskalarından mı yoksa çıktıdan mı geldiğini bilirsiniz.
Kişisel verileri maskelenmiş kullanım kaydı yazısı bir kayıt şeması gösterir. Bir özelliği yayına almadan önce boyutlandırmak için LLM API maliyet hesaplayıcısını veya lansmandan önce maliyet tahmini yazısındaki yöntemi kullanın.
2. İstem önbellekleme maliyeti nasıl düşürür?
Sağlayıcılar, birebir tekrarlanan istem başlangıçlarını önbelleğe alır. Sonraki çağrı bu öneki önbellek fiyatıyla okur. OpenAI desteklenen modellerde önbelleklemeyi 1.024 tokendan itibaren varsayılan olarak açar ve önbellekli girdinin “discounted up to 95%” (BroadRouter çevirisi: “%95’e varan indirimli”) olduğunu belirtir (2026-11-15 tarihinde kontrol edildi). BroadNet’te DeepSeek V4.1 Flash, önbellekli girdiyi 1M token başına $0.0055 ile faturalandırır; yeni girdi ise $0.175.
Kural şu: sabit içerik önce, değişen içerik en sona. Önce sistem istemi, sonra araç şemaları, sonra ortak belgeler, sonra geçmiş, en son yeni soru. En üstteki bir zaman damgası veya sırası karışan bir araç listesi, kendisinden sonraki her şey için önbelleği bozar.
- Yanıtta nasıl okunacakları dahil önbellekli girdi tokenları.
- Önekin önbelleğe alınması için istemler nasıl yapılandırılır.
- Kendi isabet oranınızı istem önbellekleme hesaplayıcısında modelleyin.
3. İstemde hangi kesintiler güvenlidir?
Modelin kullanmadığını kesin. Sık görülen kazanımlar: düzyazı olarak yazılmış uzun sistem istemleri, görevin gerektirdiğinden fazla few-shot örneği, adımın hiç çağırmadığı araçların şemaları, kompakt bir tablonun yeteceği yerde ayrıntılı JSON ve bir özetin yeteceği yerde sohbet geçmişinin tamamı. Getirme (retrieval) de zamanla şişer: soruyu iki parça yanıtlarken on parça göndermek hem maliyet hem kalite sorunudur.
Daha ucuz bir istem yanıtları sessizce bozmasın diye her kesintiyi sabit bir girdi setiyle test edin. İstem tokenlarını azaltma yazısında bunların her biri için ölçülmüş kesintiler var. Dil de önemlidir: çoğu tokenizer’da Arapça metin, kelime başına İngilizceden daha fazla token kullanır; Arapça ve İngilizcede kelime başına token yazısına bakın.
4. Çıktıyı ve akıl yürütmeyi nasıl sınırlarsınız?
Daha azını isteyin ve bir sınır koyun. Düzyazı yerine JSON alanları, “açıkla” yerine bir kelime sınırı isteyin ve sorunun yeniden yazılmamasını söyleyin. Ardından kontrolden çıkan bir yanıt dursun diye max_tokens ayarlayın.
Düşünen modeller dikkat ister. BroadNet’in belgelerine göre akıl yürütme max_tokens sınırına dahildir; bu yüzden düşük bir sınır boş bir yanıt döndürebilir. 1.000 token veya daha fazlasını bırakın ve basit adımlarda reasoning_effort değerini low yapın. Token başına faturalandırılan anahtarlarda akıl yürütme çıktı olarak faturalandırılır. Akıl yürütme tokenları: neden gördüğünüzden fazlasını ödersiniz ve boş yanıt çözümü iki tarafı da ele alır.
5. Kaliteden ödün vermeden daha ucuz bir modeli nasıl seçersiniz?
Token başına fiyatı değil, başarılı görev başına maliyeti karşılaştırın. Beklenen çıktılarıyla birlikte 50 ila 100 gerçek girdi hazırlayın, her adayı çalıştırın ve harcamayı başarılı sonuç sayısına bölün. Token başına daha ucuz olup üç seferden birinde başarısız olan bir model, yeniden denemeleri ve insan incelemesini hesaba kattığınızda daha pahalıya gelebilir.
Önce özellikleri kontrol edin. BroadNet’te araçlar ve yapılandırılmış çıktı yalnızca GLM 5.3 ve Qwen3.8 27B için belgelenmiştir. Gemma 4 VL 26B, BroadNet’in metin ve görsel işleyen daha küçük modelidir; basit görevler için fiyatına yukarıdaki tablodan bakın. Birçok uygulama kolay adımlar için küçük, zor adımlar için daha büyük bir model kullanır; modeli kendi kodunuzda siz seçersiniz. Geçiş yapmadan önce bir LLM nasıl değerlendirilir yazısı bir test planı sunar.
Mevcut modelinizin ucuzlamasını beklemeyin. Sağlayıcılar var olan bir modelin fiyatını nadiren düşürür; tasarruf genellikle yeni bir sürümle gelir. OpenAI, Anthropic ve Google API fiyat geçmişi ve en büyük LLM API fiyat indirimleri yazılarına bakın.
6. Bekleyebilecek işleri toplu çalıştırabilir veya kaydırabilir misiniz?
Sağlayıcı sunuyorsa evet, ve indirimler büyüktür. Tümü 2026-11-15 tarihinde kontrol edildi:
| Sağlayıcı | İndirim | Şartı |
|---|---|---|
| OpenAI Batch API | Senkron çağrılara göre %50 | 24 saat içinde tamamlanır; ayrı hız sınırları |
| Anthropic Message Batches API | %50 | Asenkron; çoğu toplu iş bir saatten kısa sürede biter |
| DeepSeek API, yoğun olmayan saatler | Yoğun olmayan saatlerde ücretler yoğun saatlerin yarısı | Yoğun saatler Pazartesi–Cuma, UTC 01:00–04:00 ve 06:00–10:00 |
BroadNet Inference’ın Batch API’si ve yoğun olmayan saatlere özel fiyatı yoktur. BroadNet’te gece çalışan işleri, anahtarınızın sınırları içinde normal uç nokta üzerinden, kaldığı yerden devam edebilen bir çalıştırıcıyla yürütün. Kodu Batch API olmadan LLM toplu işleme yazısında bulabilirsiniz. İş saatlerce sürüyorsa sabit bir oturum tokenlardan daha ucuza gelebilir (10. adım).
7. Yanıtların tamamını ne zaman önbelleğe almalısınız?
Aynı soru aynı girdilerle yeniden geldiğinde. SSS botları, tekrarlanan öğelerin sınıflandırılması ve bir çökme sonrasında işlem hattının yeniden çalıştırılması hep aynı işi tekrarlar. Model, istem ve ayarlara göre anahtarlanan birebir eşleşmeli bir önbellek, saklanan yanıtı döndürür ve çağrıyı atlar. Yanıtlar bayatlamasın diye bir son kullanma süresi belirleyin. Python’da LLM yanıtlarını önbelleğe alma küçük bir uygulama gösterir.
8. Yeniden denemeler ve döngüler nasıl para israf eder?
Yeniden denenen bir istek yeni bir çıkarımdır ve token başına faturalandırılan anahtarlarda yeniden ücretlendirilir. Yalnızca 429 ve 5xx hatalarında, rastgele gecikme (jitter) eklenmiş üstel geri çekilmeyle (exponential backoff) yeniden deneyin ve deneme sayısını sınırlayın. Bir 400 hatasını asla yeniden denemeyin: aynı hatalı istek aynı şekilde başarısız olur.
Ajanlar ikinci bir risk ekler: modeli durmadan çağıran bir döngü. Görev başına adım sayısını sınırlayın ve aynı araç çağrısı tekrarlandığında durun. 429 hatalarını yönetme ve kodlama ajanı maliyetlerini düşürmenin 10 yolu ikisini de ele alır.
9. Bir faturanın kontrolden çıkmasını nasıl önlersiniz?
Uyarılar size iş işten geçtikten sonra haber verir. Sınırlar ise durdurur. Ön ödemeli bakiye kullanın, uygulama başına bir anahtar açın ki birini iptal ettiğinizde diğerleri durmasın, sunucu anahtarlarında da IP izin listesi kullanın. Kodda iş başına bir bütçe belirleyin ve bütçe bitince durun. LLM API harcama kontrolü hesaptan isteğe kadar katmanları sıralar.
10. Sabit fiyatlı plan token başına fiyatlandırmayı ne zaman geçer?
Bir ajan günün büyük bölümünde çalıştığında. BroadNet, DeepSeek V4.1 Flash’ı token başına veya oturum başına satar: Full Moon aylık $60, Orbit haftalık $15, Meteor ise saatlik $1; token sayacı yoktur. Bir oturum aynı anda tek istek çalıştırır.
BroadNet’in token başına faturalandırma için hesapladığı örnek senaryolar:
| İş yükü | Token başına aylık | Daha ucuz seçenek |
|---|---|---|
| Yan proje | $14.23 | kullandıkça öde |
| Günlük asistan | $42.67 | kullandıkça öde |
| Tam zamanlı kodlama ajanı | $65.40 | Full Moon |
| Sürekli çalışan ajan | $196.20 | Full Moon |
%80 önbellek isabetinde ve çıktı tokenı başına 20 girdi tokenında başa baş noktası ayda yaklaşık 917 milyon girdi ve 46 milyon çıktı tokenıdır. Hafif kullanımda token başına ödeme daha ucuz kalır. Başa baş hesabının tamamı yazısına bakın veya kendi hacimlerinizi sabit fiyat ve token başına ödeme hesaplayıcısında deneyin.
Hangi adımları atlamalısınız?
Popüler tavsiyelerin bazıları kazandırdığından fazlasına mal olur:
- İstemleri bozulana kadar sıkıştırmak. Yanıt kalitesi düşer ve kullanıcılar yeniden denerse girdideki tasarruf kaybolur.
- Geçmişi her turda özetlemek. Her özet ek bir çağrıdır ve öneki değiştirir, bu yüzden önbellek ıskalar. Seyrek özetleyin, gerisini sona ekleyin.
- Yalnızca token başına en düşük fiyatın peşine düşmek. Hız sınırları, eksik özellikler ve hata oranları da maliyet ekler.
- Küçük bir iş yükü için kendi sunucunuzda barındırmak. GPU’lar meşgul olsun olmasın saat başına faturalandırılır. Kendi sunucunuzda barındırma ve API maliyeti başa baş noktasının nerede olduğunu gösterir.
BroadNet Inference nerede devreye giriyor
BroadRouter, BroadNet’in kendi web sitesidir; bu bölümü bunu göz önünde tutarak değerlendirin. BroadNet Inference, token başına fiyatlandırılan dört sohbet modeli, bunların üçünde önbellekli girdi ve düzenli ajan kullanımı için sabit fiyatlı bir DeepSeek V4.1 Flash planı sunan OpenAI uyumlu bir API’dir. Batch API’si ve yoğun olmayan saatlere özel fiyatı yoktur; bu nedenle bekleyebilecek büyük işlerde OpenAI’ın veya Anthropic’in toplu iş indirimleri ya da DeepSeek’in yoğun olmayan saatleri daha ucuza gelebilir. Yeni hesaplar $5 başlangıç kredisi alır; bu kredi Gemma 4 VL 26B’yi, iki Transcribe modelini ve Gemma saatlik anahtarlarını kapsar. DeepSeek, GLM ve Qwen için bakiye yüklemek gerekir. Self servis kullanımda SLA yoktur. Fiyatlara bakın veya planları karşılaştırın.
