التطبيق الذي يتحدث مع نموذج واحد لا يحتاج إلى موجّه. تظهر الموجّهات حين يستخدم فريق عدة نماذج أو مزوّدين ويريد مكانًا واحدًا للاختيار بينها.
كيف يعمل
يرسل التطبيق طلبًا بأسلوب OpenAI إلى الموجّه. فيطبّق الموجّه قواعده، ويمرّر الطلب إلى خادم خلفي، ويعيد الإجابة بالصيغة نفسها. وهناك ثلاثة أنواع شائعة:
- المجمّعات المستضافة. يقدّم OpenRouter مثلًا “hundreds of AI models through a single API endpoint” (ترجمة: مئات نماذج الذكاء الاصطناعي عبر نقطة نهاية API واحدة) على
https://openrouter.ai/api/v1، مع بدائل تلقائية. تحمل أنت مفتاحًا واحدًا وفاتورة واحدة؛ ويحمل المجمّع الحسابات لدى المزوّدين. - البوابات ذاتية الاستضافة. يعمل LiteLLM Router داخل بنيتك التحتية. فيوزّع الحركة على عمليات النشر (خلط بسيط افتراضيًا، أو بحسب زمن الاستجابة أو الاستخدام أو التكلفة)، ويعيد محاولة أخطاء حدود المعدل مع تراجع أُسّي، ويضع عملية النشر في فترة تهدئة بعد خطأ 429 أو معدل فشل مرتفع.
- موجّهات اختيار النموذج. أبحاث مثل RouteLLM تدرّب مصنّفًا يرسل الأوامر السهلة إلى نموذج أرخص والصعبة إلى نموذج أقوى، لخفض التكلفة دون خسارة الجودة.
تُضبط البوابة ذاتية الاستضافة على شكل قائمة من الخوادم الخلفية. وهذا المُدخل في LiteLLM يضيف مزوّدًا متوافقًا مع OpenAI:
model_list:
- model_name: flash
litellm_params:
model: openai/broadnet/deepseek-v4.1-flash
api_base: https://inference.broadnet.ai/v1
api_key: os.environ/BROADNET_API_KEY
لماذا يهم
- الموثوقية. يستطيع الموجّه الانتقال إلى بديل حين يُرجع أحد المزوّدين أخطاء 429 أو 5xx. راجع حدود المعدل.
- التكلفة. إرسال الأوامر البسيطة إلى نموذج أرخص قد يخفّض الفاتورة.
- تكامل واحد. يتحدث الكود مع عنوان أساسي واحد وصيغة مفتاح واحدة.
والمقايضات حقيقية. فالموجّه يضيف قفزة شبكية. والموجّه المستضاف طرف إضافي يرى أوامرك، فيعتمد الاحتفاظ بالبيانات على الموجّه وعلى المزوّد الذي يختاره معًا. كما تختلف النماذج في المُرمِّزات (tokenizers) وسلوك الاستدلال ودعم المعاملات، لذا قد يغيّر الانتقال الصامت إلى بديل الإجاباتِ.
في BroadNet Inference
BroadNet Inference ليست موجّهًا. إنها مزوّد واحد له قائمة نماذج قصيرة على https://inference.broadnet.ai/v1؛ وتقول شروط BroadNet إن نماذجها تعمل على عتاد أمريكي تملكه BroadNet أو تستأجره أو مع شركاء استدلال أمريكيين. ولا يوجد توجيه تلقائي ولا انتقال إلى بديل عبر المزوّدين. أنت تختار النموذج في كل طلب، مثل broadnet/deepseek-v4.1-flash أو broadnet/glm-5.3.
ولأن الواجهة متوافقة مع OpenAI، يمكن أن تقف خلف موجّه بوصفها خادمًا خلفيًا واحدًا. ويشرح دليل وكيل LiteLLM طريقة الإعداد. ولمقارنة الموجّه بالمزوّد ثابت السعر، اقرأ بديل OpenRouter للوكلاء. لا تحتفظ BroadNet بالأوامر ولا بالمخرجات؛ فإن أضفت موجّهًا مستضافًا أمامها، فتحقّق من سياسة الاحتفاظ بالبيانات لديه أيضًا.
أخطاء شائعة
- إعادة محاولة خطأ 401 أو 403 لدى مزوّد آخر. هذه أخطاء مفتاح أو سياسة؛ أصلحها أولًا. راجع الأخطاء وإعادة المحاولة.
- التعامل مع أسماء النماذج على أنها قابلة للتبادل. اختبر كل نموذج بديل على أوامرك أنت.