max_tokens هو ميزانية المخرجات لرد واحد. وهو يحميك من الإجابات الجامحة، لكنه إن ضُبط منخفضًا جدًا قطع الإجابات أو لم يُرجع شيئًا على الإطلاق.
كيف يعمل
يولّد النموذج رمزًا واحدًا في كل مرة. وحين يبلغ العدد max_tokens يتوقف التوليد، ولو في منتصف الجملة. ثم تذكر الاستجابة سبب انتهائها:
finish_reason |
المعنى |
|---|---|
stop |
أنهى النموذج من تلقاء نفسه |
length |
بلغ التوليد حد max_tokens |
tool_calls |
يطلب النموذج استدعاء أداة |
لهذا المعامل عدة أسماء. فواجهة Chat Completions من OpenAI تعلّم الآن max_tokens بأنه مُهمَل لصالح max_completion_tokens، وهو حد أعلى يشمل المخرجات الظاهرة ورموز الاستدلال المنطقي معًا. وتستخدم Responses API من OpenAI الاسم max_output_tokens، وتستخدم Messages API من Anthropic الاسم max_tokens. ويقبل كثير من المزوّدين المتوافقين مع OpenAI الاسم max_tokens.
يتشارك الأمر والمخرجات نافذة سياق واحدة. فإن كانت النافذة 32,768 رمزًا والأمر 30,000، فلن يعود أكثر من 2,768 رمزًا، مهما كانت قيمة max_tokens.
لماذا يهم
- ضبط التكلفة. على مفتاح يُحاسَب بالرمز، يمثّل
max_tokensأقصى ما يمكن أن يكلّفه رد واحد من المخرجات. - الإجابات الفارغة. في نماذج الاستدلال المنطقي، يُقتطع التفكير من الميزانية نفسها. وقد يُنفَق حد قدره 100 بالكامل على رموز الاستدلال المنطقي، فتأتي الإجابة الظاهرة فارغة ويكون
finish_reasonبالقيمةlength. - JSON معطوب. الرد المقطوع يترك المخرجات المنظَّمة ناقصة وغير قابلة للتحليل. افحص
finish_reasonقبل التحليل.
في BroadNet Inference
تستدل نماذج DeepSeek V4.1 Flash وGLM 5.3 وQwen3.8 27B قبل الإجابة، ويقول توثيق BroadNet إن الاستدلال المنطقي يُحتسب ضمن max_tokens. اسمح بـ 1,000 رمز أو أكثر، أو اتركه دون ضبط، أو اخفض reasoning_effort:
response = client.chat.completions.create(
model="broadnet/glm-5.3",
max_tokens=2000,
messages=[{"role": "user", "content": "Summarize this contract clause."}],
)
if response.choices[0].finish_reason == "length":
print("Cut off: raise max_tokens or lower reasoning_effort")
تختلف أحجام السياق باختلاف النموذج: 1,048,576 رمزًا لنموذجَي DeepSeek V4.1 Flash وGLM 5.3، و262,144 لنموذج Qwen3.8 27B، و32,768 لنموذج BroadNet Gemma 4 VL 26B. راجع صفحات النماذج ولماذا تُرجع نماذج الاستدلال المنطقي إجابات فارغة.
أخطاء شائعة
- نسخ حد صغير من نموذج لا يستدل أثناء الانتقال. راجع قائمة التحقق للانتقال.
- اعتبار
lengthنجاحًا. سجّله وأعد المحاولة بمساحة أكبر.