لكل LLM API دقائق سيئة: خطأ 503، أو انتهاء مهلة، أو دفعة من أخطاء 429. والبديل الاحتياطي يعني ألّا تتحول تلك الدقائق إلى انقطاع في تطبيقك. يشرح هذا المقال كيف تنتقل تلقائيًا بين مزوّدين متوافقين مع OpenAI في شيفرتك أنت. ويغطي الأخطاء التي يجب أن تُطلق الانتقال، وكيف يبقيه قاطع الدائرة سريعًا، وما الذي يجب أن يتطابق بين المزوّدين كي لا يلاحظ المستخدمون التبديل.
أمر واحد قبل البدء: لا توجّه BroadNet Inference الطلبات ولا تنتقل بين المزوّدين نيابة عنك، ولا BroadRouter كذلك. فـ BroadRouter هو موقع BroadNet نفسها، وليس موجِّهًا. أنت من يبني البديل الاحتياطي، إما في العميل كما يلي، وإما في بوابة مثل LiteLLM.
لماذا تحتفظ بمزوّد احتياطي أصلًا؟
لأن معظم واجهات الخدمة الذاتية لا تَعِد بشيء عن مدة التشغيل. وتقولها شروط BroadNet صراحة في البند 7.4: “self-serve has no availability commitment” (الترجمة: «الخدمة الذاتية بلا التزام بالإتاحة»)، ولا توجد مستويات خدمة إلا في اتفاقية مكتوبة منفصلة (تاريخ المراجعة 15 نوفمبر 2026). ويغطي مقال مقارنة SLA لواجهات LLM API ما يلتزم به المزوّدون الآخرون. فإذا كان يجب أن تبقى ميزتك متاحة، فالمزوّد الثاني هو التأمين العملي، أيًّا كان ما تقوله اتفاقية مستوى الخدمة.
وحدود المعدل هي السبب الثاني. يسمح مفتاح الدفع حسب الاستخدام في BroadNet بـ 30 طلبًا في الدقيقة و4 طلبات متزامنة قيد التنفيذ. وأي ذروة في الحركة فوق ذلك تعيد أخطاء 429، ويستطيع مزوّد ثانٍ استيعاب الفائض بينما ترفع سعتك.
ما الأخطاء التي يجب أن تُطلق الانتقال التلقائي؟
قسّم الأخطاء إلى مجموعتين. بعضها خطأ المزوّد وقد ينجح لدى غيره. وبعضها خطؤك أنت وسيفشل في كل مكان.
| الخطأ | تنتقل؟ | السبب |
|---|---|---|
| خطأ اتصال، انتهاء المهلة | نعم، بعد إعادة المحاولة | المزوّد أو الشبكة لا يمكن الوصول إليهما |
| 500، 502، 503، 504 | نعم، بعد إعادة المحاولة | تقول وثائق BroadNet أن تبدأ بـ “retry with bounded exponential backoff” (الترجمة: «أعد المحاولة مع تراجع أسّي محدود») |
| 429، حد المعدل أو التزامن | نعم، بعد التراجع | السعة لدى هذا المزوّد، لا طلب خاطئ |
| 429، حد الإنفاق | لا | الانتقال يتجاوز الميزانية التي وضعتها عن قصد |
| 400، 422 | لا | الطلب غير صالح وسيفشل لدى المزوّد التالي أيضًا |
| 401، 402 | لا | المفتاح أو المخصّص أو الرصيد. في BroadNet يشمل 401 أيضًا نفاد مخصّص الدفع حسب الاستخدام، فالانتقال يخفي مشكلة في الفوترة |
| 403، 413 | لا | السياسة أو الحجم؛ أصلح الطلب |
يقول المرجع التقني لواجهة BroadNet إن 429 يعني “a rate, concurrency, token-rate or spending limit was reached” (الترجمة: «تم بلوغ حد للمعدل أو التزامن أو معدل الرموز أو الإنفاق»)، وأن عليك “use response details and bounded backoff” (الترجمة: «استخدام تفاصيل الاستجابة والتراجع المحدود»). اقرأ تلك التفاصيل قبل أن تنتقل، حتى يوقف خطأ 429 الناتج عن حد الإنفاق الطلبَ بدل أن ينقله. ويسرد دليل رموز الأخطاء كل الحالات.
أعد المحاولة قبل أن تنتقل. تعيد مكتبة OpenAI Python SDK بالفعل محاولة أخطاء الاتصال واستجابات 408 و409 و429 و5xx “2 times by default, with a short exponential backoff” (الترجمة: «مرتين افتراضيًا، مع تراجع أسّي قصير»)، ومهلتها الافتراضية 10 دقائق (README، تاريخ المراجعة 15 نوفمبر 2026). وعشر دقائق مدة أطول بكثير من أن تنتظرها قبل الانتقال. اضبط timeout لكل عميل. ويغطي مقال التعامل مع 429 التراجع مع التذبذب العشوائي (jitter).
كيف يبدو الانتقال التلقائي في Python؟
عميلان، وقائمة مرتّبة، وقاطع دائرة صغير. المزوّد الأساسي هو GLM 5.3 في BroadNet. والاحتياطي هو النموذج مفتوح الأوزان نفسه في DeepInfra، التي تذكر وثائقها عنوان URL الأساسي https://api.deepinfra.com/v1/openai (تاريخ المراجعة 15 نوفمبر 2026).
import os
import time
from openai import (OpenAI, APIConnectionError, APITimeoutError,
RateLimitError, InternalServerError)
PROVIDERS = [
{"name": "broadnet", "model": "broadnet/glm-5.3",
"client": OpenAI(base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
max_retries=2, timeout=60)},
{"name": "deepinfra", "model": "zai-org/GLM-5.3",
"client": OpenAI(base_url="https://api.deepinfra.com/v1/openai",
api_key=os.environ["DEEPINFRA_API_KEY"],
max_retries=2, timeout=60)},
]
# Provider-side failures only. 400, 401, 402, 403 and 422 raise straight through.
FAILOVER_ON = (APIConnectionError, APITimeoutError, RateLimitError, InternalServerError)
TRIP_AFTER = 3 # consecutive failures before the breaker opens
COOLDOWN = 30 # seconds to skip a provider once its breaker is open
state = {p["name"]: {"fails": 0, "open_until": 0.0} for p in PROVIDERS}
def chat(messages, **kwargs):
last_error = None
for p in PROVIDERS:
s = state[p["name"]]
if time.monotonic() < s["open_until"]:
continue # breaker open: don't wait on a provider that is down
try:
reply = p["client"].chat.completions.create(
model=p["model"], messages=messages, **kwargs)
s["fails"] = 0
return p["name"], reply
except FAILOVER_ON as err:
last_error = err
s["fails"] += 1
if s["fails"] >= TRIP_AFTER:
s["open_until"] = time.monotonic() + COOLDOWN
raise RuntimeError("every provider failed") from last_error
served_by, reply = chat([{"role": "user", "content": "Reply with one short sentence."}],
max_tokens=1000)
print(served_by, reply.model, reply.choices[0].message.content)
أربع تفاصيل مهمة:
- فئات الاستثناءات. ترفع SDK الاستثناء
RateLimitErrorعند 429، وInternalServerErrorعند 500 وما فوق، وAPIConnectionError(وAPITimeoutErrorفئة فرعية منه) حين يتعذر الاتصال. وكل ما عدا ذلك يُترك دون التقاط عن قصد. ولتستثني أخطاء 429 الناتجة عن حد الإنفاق، افحصerr.responseقبل أن تتابع. - قاطع الدائرة. من دونه، يدفع كل طلب ثمن المهلة كاملة على مزوّد أساسي متعطّل قبل أن ينتقل. وبعد ثلاثة إخفاقات متتالية، يُتجاوز المزوّد الأساسي لمدة 30 ثانية. وبعدها يختبره الطلب التالي من جديد.
- سجّل من خدم الطلب. أعِد اسم المزوّد واحتفظ بـ
reply.model. فحين تتغير الجودة، تحتاج إلى معرفة المزوّد الذي أجاب. - ميزانية الاستدلال المنطقي. يستدل GLM 5.3 منطقيًا قبل أن يجيب. وتقول وثائق BroadNet إن الاستدلال المنطقي يُحتسب ضمن
max_tokens، لذا اترك 1,000 أو أكثر لدى كل مزوّد.
كيف تربط معرّفات النماذج بين المزوّدين؟
للنموذج مفتوح الأوزان نفسه معرّف مختلف لدى كل مزوّد، وقد تختلف الميزات التي يدرجها كل منهم. GLM 5.3 في 15 نوفمبر 2026:
| BroadNet Inference | DeepInfra | Fireworks AI | |
|---|---|---|---|
| معرّف النموذج | broadnet/glm-5.3 |
zai-org/GLM-5.3 |
accounts/fireworks/models/glm-5p3 |
| السياق | 1,048,576 رمزًا | 1,048,576 رمزًا | “1040k” رمز |
| الأدوات | موثّقة | “Function” مُدرجة | مدعومة |
| الإخراج المنظّم | موثّق | “JSON” مُدرج | لم نتحقق |
تترتب على ذلك قاعدتان. الأولى: احتفظ بجدول الربط في الإعدادات، لا مبعثرًا في الشيفرة. والثانية: طابق مزوّدك الاحتياطي مع ما تستخدمه طلباتك. ففي BroadNet، الأدوات والإخراج المنظّم موثّقة لـ GLM 5.3 وQwen3.8 27B فقط. ويستطيع وكيل يستدعي الأدوات أن ينتقل من GLM 5.3 إلى GLM 5.3 لدى مزوّد آخر، لكنه لا يستطيع بأمان أن ينتقل إلى نموذج لا يوثّق الأدوات. وإذا كانت نافذة السياق لدى الاحتياطي أصغر، فاختصر الأمر أو تجاوز ذلك الاحتياطي للطلبات الطويلة. وعناوين URL الأساسية لـ 14 مزوّدًا موجودة في مرجع عناوين URL الأساسية.
كيف تبقي الإجابات متقاربة بعد التبديل؟
الأوزان نفسها لدى مزوّدين اثنين قد تجيب بشكل مختلف، لأن المزوّدين قد يقدّمون دقة حسابية مختلفة أو قوالب محادثة مختلفة أو معاملات افتراضية مختلفة. أما النموذج المختلف فيجيب بشكل مختلف حتمًا.
- شغّل مجموعة التقييم على كل إدخال في القائمة، لا على المزوّد الأساسي وحده.
- ثبّت
temperatureوmax_tokensوأمر النظام في كل طلب، كي لا تغيّر الإعدادات الافتراضية للمزوّد الإخراج. - تحقق من الإخراج المنظّم بالطريقة نفسها في كل مسار. ويغطي مقال إصلاح JSON غير الصالح حلقة الإصلاح وإعادة المحاولة.
- فضّل النموذج نفسه لدى مزوّد آخر على نموذج مختلف لدى المزوّد نفسه. فالمستخدمون يلاحظون تغيّر الأسلوب أكثر من بضع ثوانٍ من التأخير.
ماذا عن البث المتدفق واستدعاءات الأدوات؟
قد يفشل البث في منتصفه. وتقول وثائق BroadNet إن البث الذي ينتهي قبل data: [DONE] يجب أن يُعامل على أنه غير مكتمل: سجّل X-Request-ID وقرّر ما إذا كان تطبيقك يستطيع بأمان إرسال طلب جديد.
- قبل الرمز الأول: انتقل بحرية. فالمستخدم لم يرَ شيئًا.
- بعد عرض رموز: أعد التشغيل لدى الاحتياطي واستبدل الإجابة الجزئية، أو اعرض خطأ مع زر لإعادة المحاولة. فلصق نصفي إجابتين من مزوّدين مختلفين يبدو سيئًا.
- استدعاءات الأدوات ذات الآثار الجانبية: لا تُعِد أبدًا تشغيل خطوة ترسل بريدًا إلكترونيًا أو تخصم من بطاقة أو تكتب في قاعدة بيانات لمجرد أن استدعاء النموذج فشل. أعطِ كل إجراء مفتاح منع التكرار (idempotency key). ويغطي مقال الوكلاء طويلو التشغيل نقاط الحفظ.
ويشرح مقال البث المتدفق عبر SSE كيف تكتشف بثًا انتهى مبكرًا.
كم يكلّف الانتقال التلقائي؟
- عمل مكرر. انتهاء المهلة لديك لا يثبت أن المزوّد توقف. وفي الفوترة لكل رمز، كل إعادة محاولة استدلال جديد، فتوقّع أن تدفع مرتين مقابل بعض الطلبات.
- أسعار مختلفة. يحتسب الاحتياطي بأسعاره هو. وقد عرضت DeepInfra سعرًا ترويجيًا لـ GLM-5.3 في 15 نوفمبر 2026، فتحقق مجددًا قبل أن تضع ميزانيتك. وتحتسب BroadNet $0.78 للإدخال، و$0.173 للإدخال المخزّن مؤقتًا، و$3.46 للإخراج لكل مليون رمز.
- ذاكرة مؤقتة باردة. الإدخال المخزّن مؤقتًا لا ينتقل بين المزوّدين. فالطلبات الأولى لدى الاحتياطي تدفع سعر الإدخال الكامل على بادئة كانت مخزّنة مؤقتًا لدى الأساسي. راجع رموز الإدخال المخزّنة مؤقتًا.
- الإرسال المزدوج (hedging). إرسال كل طلب إلى مزوّدين معًا والاحتفاظ بأول إجابة يقلّص تأخير الذيل، لكنه يضاعف الفاتورة تقريبًا. استخدمه فقط حيث يستحق التأخير ذلك.
هل يستوفي الاحتياطي شروط البيانات نفسها؟
المزوّد الاحتياطي معالج آخر يتلقى الأوامر نفسها. فإذا وعدت عملاءك بشيء بشأن بياناتهم، فيجب أن يصمد الوعد لدى كل إدخال في القائمة.
يقول بيان الخصوصية من BroadNet: “We do not retain prompts, audio, images, answers or transcripts” (الترجمة: «لا نحتفظ بالأوامر أو الصوت أو الصور أو الإجابات أو النصوص المفرّغة»). فمحتوى الاستدلال لا يُحتفظ به؛ وتُحفظ بيانات الحساب والفوترة والأمان الوصفية الضرورية كما يصف البيان. ويقول أيضًا إن بيانات الاستدلال لا تُستخدم لتدريب النماذج أو ضبطها بدقة أو تقييمها. ويقول البيان إن النماذج المستضافة “run on BroadNet-owned or leased hardware in the United States, with partner capacity as backup” (الترجمة: «تعمل على أجهزة مملوكة لـ BroadNet أو مستأجرة في الولايات المتحدة، مع سعة لدى شركاء احتياطًا»)؛ وDeepSeek V4.1 Flash مستضاف لدى شريك. وللبيانات ذات متطلبات الإقامة، تقول الشروط (البند 7.3a) أن تتفق على مواقع المعالجة قبل إرسالها. تحقق من النقاط نفسها لدى الاحتياطي: الاحتفاظ، والاستخدام في التدريب، والموقع، والمعالجين الفرعيين. وإذا قصّر، فأبقِ الطلبات الحساسة خارج مسار الاحتياط واجعلها تفشل بإغلاق آمن. وتسرد قائمة التحقق من عدم الاحتفاظ بالبيانات الأسئلة.
هل تستخدم بوابة مثل LiteLLM بدلًا من ذلك؟
استخدم بوابة إذا كانت عدة خدمات تحتاج إلى قواعد الاحتياط نفسها. يأخذ وكيل LiteLLM قائمة fallbacks تُجرَّب بالترتيب. ويعيد num_retries محاولة مجموعة نماذج قبل الانتقال إلى الاحتياط. ويُخرج allowed_fails وcooldown_time النشر المتعثّر من الخدمة لفترة، فيعملان عمل قاطع الدائرة. ويتعامل context_window_fallbacks وcontent_policy_fallbacks المنفصلان مع هذين النوعين من الأخطاء (وثائق LiteLLM، تاريخ المراجعة 15 نوفمبر 2026):
model_list:
- model_name: glm
litellm_params:
model: openai/broadnet/glm-5.3
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
- model_name: glm-backup
litellm_params:
model: openai/zai-org/GLM-5.3
api_base: https://api.deepinfra.com/v1/openai
api_key: os.environ/DEEPINFRA_API_KEY
router_settings:
fallbacks: [{"glm": ["glm-backup"]}]
allowed_fails: 3
cooldown_time: 30
litellm_settings:
num_retries: 2
request_timeout: 60
يعرض دليل وكيل LiteLLM إدخال BroadNet كاملًا. ويستخدم الإدخالان البادئة العامة openai/ في LiteLLM مع api_base، وهو النمط نفسه الذي يستخدمه الدليل. لكن البوابة تضيف قفزة إضافية وشيئًا آخر يجب إبقاؤه قيد التشغيل. ويكفي تطبيقًا واحدًا نحو 40 سطرًا في العميل، كما في المثال السابق.
كيف تختبر الانتقال التلقائي قبل أن تحتاج إليه؟
- وجّه المزوّد الأساسي إلى مضيف لا يمكن الوصول إليه في إعدادات اختبار، وتحقق أن الطلبات تصل إلى الاحتياطي.
- أرسل طلبًا غير صالح عمدًا، وتحقق أنه لا ينتقل.
- استخدم مفتاحًا أساسيًا غير صالح، وتحقق أن خطأ 401 يظهر خطأً، لا تبديلًا صامتًا.
- راقب القاطع: بعد ثلاثة إخفاقات، يجب أن يُتجاوز المزوّد الأساسي دون انتظار المهلة.
- أطلق تنبيهًا حين يخدم الاحتياطي أكثر من حصة صغيرة من الحركة. فالانتقال الصامت قد يخفي مزوّدًا أساسيًا معطّلًا لأيام.
ويقبل Router في LiteLLM الخيار mock_testing_fallbacks=True في الاختبارات المباشرة لفرض الانتقال إلى الاحتياط.
أين تقع BroadNet Inference من هذا؟
BroadRouter هو موقع BroadNet، ويمكن أن تكون BroadNet Inference أيًّا من الإدخالين في قائمتك. فبوصفها المزوّد الأساسي، تمنحك GLM 5.3 وQwen3.8 27B مع أدوات وإخراج منظّم موثّقين، إضافة إلى Gemma 4 VL 26B وDeepSeek V4.1 Flash، على عنوان URL أساسي واحد ودون احتفاظ بأي محتوى. وبوصفها احتياطيًا، فهي نقطة نهاية أخرى متوافقة مع OpenAI تضيفها إلى القائمة. وفي الحالتين، منطق الانتقال التلقائي مسؤوليتك: فـ BroadNet لا توجّه الطلبات بين المزوّدين، والخدمة الذاتية بلا SLA. وإذا احتجت إلى مستويات خدمة تعاقدية، فهي لا تتوفر إلا باتفاقية مكتوبة منفصلة. قارن النماذج، أو أنشئ حسابًا واختبر سلسلتك بالرصيد الابتدائي $5 على Gemma 4 VL 26B. أما GLM 5.3 وQwen3.8 27B فيتطلبان شحن الرصيد.
