حد المعدل يتحكم في سرعة إنفاقك. أما حد الإنفاق فيتحكم في مقداره.
كيف يعمل
يضع المزوّدون عدة سقوف فوق بعضها. وهذان مثالان موثّقان:
| المزوّد | الضابط | ما يحدث عند بلوغه |
|---|---|---|
| Anthropic | سقف إنفاق الفئة لكل شهر ميلادي (Start وBuild وScale؛ ولا سقف لفئة Custom) | يتوقف الاستخدام حتى الساعة 00:00 UTC من أول يوم في الشهر التالي؛ HTTP 429 rate_limit_error مع error.details.error_code بقيمة enforced_spend_limit_reached، دون retry-after |
| Anthropic | حدك الأدنى الخاص، على مستوى المؤسسة أو مساحة العمل | HTTP 400 invalid_request_error، برسالة تبدأ بـ “You have reached your specified API usage limits” (ترجمة: لقد بلغت حدود استخدام API التي حددتها) |
| OpenAI | حد استخدام شهري لكل فئة | لا يصفه الدليل |
| OpenAI | تنبيه الإنفاق | يرسل إشعارًا؛ وتستمر الطلبات |
| OpenAI | حد إنفاق صارم، على مستوى المؤسسة أو المشروع | تُرجع الطلبات المتأثرة 429 |
سقوف الفئات لدى Anthropic هي USD 500 (Start) وUSD 1,000 (Build) وUSD 200,000 (Scale) شهريًا. ويُدرج دليل OpenAI حدود استخدام شهرية بحسب الفئة، من USD 100 في Free إلى USD 200,000 في Grow، ويقول إن الفئات ترتفع كلما تجاوز إجمالي مشتريات الرصيد عتبات معيّنة.
الجزء الصعب أن خطأ 429 الخاص بحد الإنفاق يشبه خطأ 429 الخاص بحد المعدل. ففي واجهة Anthropic يميّز رمز الخطأ بينهما، واستجابة سقف الإنفاق لا تحمل ترويسة retry-after:
err = resp.json().get("error", {})
if resp.status_code == 429 and err.get("details", {}).get("error_code") == "enforced_spend_limit_reached":
stop_job_and_alert() # retrying will not help
elif resp.status_code == 429:
backoff_and_retry()
لماذا يهم
- التنبيهات تتأخر. قد تنفق حلقة سريعة الكثير قبل أن يصل بريد إلكتروني. أما السقف الصارم فيوقفها.
- إعادة المحاولة تزيد الأمر سوءًا. العميل الذي ينتظر ويعيد المحاولة عند كل 429 سيطرق سقف الإنفاق بلا فائدة. ميّز بين الحالتين.
- السقوف المشتركة. السقف على مستوى الحساب المشترك بين تطبيقات كثيرة يسمح لمهمة واحدة خارجة عن السيطرة بأن تعطّل البقية. والميزانيات لكل مشروع، أو ميزانيتك الخاصة داخل الشيفرة، تُبقيها منفصلة.
في BroadNet Inference
يُدرج المرجع التقني لـ BroadNet ستة حدود على مفتاح الدفع حسب الاستخدام. والثلاثة التي تحدّ التكلفة والإنتاجية هي 30 طلب في الدقيقة، و4 قيد التنفيذ، والإنفاق، المعرَّف بأنه “the native budget shared by the account’s pay-as-you-go keys” (ترجمة: الميزانية الأصلية المشتركة بين مفاتيح الدفع حسب الاستخدام في الحساب)؛ والبقية هي النماذج المسموح بها، وعمر المفتاح البالغ سنة واحدة، وعشرة مفاتيح فعّالة كحد أقصى لكل حساب. والحساب مدفوع مسبقًا، فالرصيد هو السقف الخارجي. ورمزا حالة يهمّان هنا:
- 429: “A rate, concurrency, token-rate or spending limit was reached.” (ترجمة: بُلغ حد للمعدل أو التزامن أو معدل الرموز أو الإنفاق.)
- 401: مفتاح مفقود أو غير صالح أو منتهي الصلاحية، أو حساب حُظرت ميزانيته المشتركة للدفع حسب الاستخدام (وصياغة الوثائق هي “a blocked native PAYG budget holder” (ترجمة: جهة محظورة تحمل ميزانية PAYG الأصلية))، “including exhausted PAYG allowance” (ترجمة: بما في ذلك استنفاد مخصص PAYG).
تقول صفحة الخصوصية لدى BroadNet إن المفاتيح محددة النطاق بحسب النموذج والمعدل والإنفاق، لكن المرجع التقني لا يُظهر أي إعداد لميزانية كل مفتاح أو كل مشروع، فضع فحصًا للميزانية الجارية في شيفرتك قبل كل طلب، كما في التحكم في إنفاق LLM API. وللحصول على أسوأ حالة ثابتة، فإن خطة بسعر ثابت أو مفتاحًا بالساعة بسعر $0.50 يحدّ الإنفاق بطبيعته. ويشرح دليل الأخطاء وإعادة المحاولة التعامل مع إعادة المحاولة.