max_tokens: 100 ile kısa bir istem gönderiyorsunuz, istek başarılı oluyor ama choices[0].message.content boş geliyor. Bozuk bir şey yok: yanıt hiç başlamadı.
Ne oluyor
Akıl yürüten modeller, görünür yanıttan önce gizli bir düşünce zinciri yazar. İkisi aynı max_tokens bütçesini paylaşır. Sınır küçükse akıl yürütme bütçenin tamamını tüketir ve standart chat completions yapısında finish_reason değeri length olur.
Üç çözüm
1. Yer bırakın. BroadNet’in belgelerinin önerdiği gibi max_tokens değerini 1.000 veya üstüne ayarlayın. Akıl yürüten modeller için max_tokens hesaplayıcısı sınırı yanıt uzunluğunuza göre belirler ve maliyeti gösterir.
2. Daha az akıl yürütün. Basit işler için reasoning_effort değerini low yapın:
import os
from openai import OpenAI
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
response = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash",
reasoning_effort="low",
max_tokens=1000,
messages=[{"role": "user", "content": "Classify: 'refund my order' -> intent?"}],
)
3. Kullanımı izleyin. Model raporluyorsa usage.completion_tokens_details.reasoning_tokens, akıl yürütmeye ne kadar gittiğini gösterir:
print(response.choices[0].finish_reason) # "length" means the budget ran out
details = response.usage.completion_tokens_details # None if the model doesn't report it
print(details.reasoning_tokens if details else "not reported")
Akışta stream_options={"include_usage": True} ekleyin; aynı kullanım bilgisi son parçada gelir. Akışlı chat completions rehberine bakın.
Hangi modeller akıl yürütür
| Model | Önce akıl yürütür |
|---|---|
DeepSeek V4.1 Flash (broadnet/deepseek-v4.1-flash) |
Evet |
GLM 5.3 (broadnet/glm-5.3) |
Evet |
Qwen3.8 27B (broadnet/qwen3.8-27b) |
Evet |
BroadNet Gemma 4 VL 26B (broadnet/gemma-4-26b-a4b) |
Listelenmemiş |
Sorun giderme
contentboş,finish_reasondeğerilength.max_tokensdeğerini artırın veyareasoning_effortdeğerinilowyapın.contentboş,finish_reasondeğeristop. Sebep sınır değil. İsteminizi kontrol edin ve ne döndüğünü görmek için yanıtın tamamını yazdırın.completion_tokens_detailsüzerindeAttributeError. Model o istek için dökümü raporlamamış; yukarıdaki örnekteki gibiNonedurumuna karşı kontrol ekleyin.- Akışta ilk token geç geliyor. Model yanıtı yazmadan önce akıl yürütüyor. Daha düşük bir
reasoning_effortbeklemeyi kısaltabilir.
Gün boyu ajan çalıştırıyorsanız kullandıkça öde modelinde akıl yürütme token’ları birikir. BroadNet fiyat hesaplayıcısı, sabit fiyatlı bir sınırsız planın ne zaman daha ucuza geldiğini gösterir.
