BroadRouter

تشغيل smolagents على BroadNet Inference عبر OpenAIModel

آخر تحديث

أنشئ OpenAIModel في smolagents مع ضبط model_id على معرّف من BroadNet مثل broadnet/glm-5.3، وapi_base على https://inference.broadnet.ai/v1، وapi_key على مفتاح BroadNet، ثم مرّره إلى CodeAgent أو ToolCallingAgent. يكتب CodeAgent شيفرة Python بدلًا من استدعاءات الأدوات الأصلية، لذا يمكنه العمل على DeepSeek V4.1 Flash. أما ToolCallingAgent فيحتاج إلى GLM 5.3 أو Qwen3.8 27B.

smolagents مكتبة Python صغيرة من Hugging Face لبناء الوكلاء. والصنف OpenAIModel فيها “connects to an OpenAI-compatible API server” (ترجمة: يتصل بخادم API متوافق مع OpenAI)، مع api_base لتحديد الرابط. وتقدّم BroadNet Inference واجهة chat completions على https://inference.broadnet.ai/v1، فيعمل الربط مباشرة. BroadRouter هو موقع BroadNet نفسها؛ ويتبع هذا الدليل توثيق smolagents 1.26.0.

التثبيت

pip install smolagents
export BROADNET_API_KEY='your-broadnet-key'

CodeAgent

import os
from smolagents import OpenAIModel, CodeAgent

model = OpenAIModel(
    model_id="broadnet/deepseek-v4.1-flash",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)

agent = CodeAgent(tools=[], model=model)
print(agent.run("What is 6 * 7? Use Python to check."))

يطلب CodeAgent من النموذج أن يكتب شيفرة Python بين وسمَي <code> ثم يشغّلها محليًا. والطلب استدعاء chat completion عادي مع تسلسلات إيقاف (stop sequences) مثل </code>، ومن دون حقل tools. أي أنه لا يعتمد على استدعاء الأدوات الأصلي، لذا يمكنه العمل على broadnet/deepseek-v4.1-flash، نموذج الخطط غير المحدودة من BroadNet. لكن جودة الشيفرة تختلف من نموذج إلى آخر، فاختبر مهامك أنت.

يشغّل CodeAgent شيفرةً يكتبها النموذج. اقرأ إرشادات smolagents حول التنفيذ الآمن للشيفرة قبل أن تمنحه أدوات تصل إلى الملفات أو الشبكات أو بيانات الاعتماد.

ToolCallingAgent

from smolagents import ToolCallingAgent, tool

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city.

    Args:
        city: The city name.
    """
    return f"21C in {city}"

model = OpenAIModel(
    model_id="broadnet/glm-5.3",
    api_base="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=4000,
)
agent = ToolCallingAgent(tools=[get_weather], model=model)
print(agent.run("What's the weather in Riyadh?"))

يرسل ToolCallingAgent أدواتك، ومعها أداته الخاصة final_answer، بوصفها مخططات دوال مع tool_choice: "required". استخدم broadnet/glm-5.3 أو broadnet/qwen3.8-27b؛ فتوثيق BroadNet لا يُدرج الأدوات إلا لهذين النموذجين.

أي نموذج تختار

الوكيل النموذج
CodeAgent، تشغيل طويل على خطة بسعر ثابت broadnet/deepseek-v4.1-flash
ToolCallingAgent broadnet/glm-5.3
أيٌّ من الوكيلين مع إدخال الصور broadnet/qwen3.8-27b

جلسة الخطة تشغّل طلبًا واحدًا في كل مرة، والوكيل يرسل خطواته واحدة تلو الأخرى، لذا تناسب الجلسةُ الواحدة وكيلًا واحدًا. أسعار كل النماذج.

كيف اختبرنا هذا

في 2026-11-15 ثبّتنا smolagents 1.26.0 في بيئة افتراضية نظيفة، وشغّلنا الوكيلين كليهما على خادم وهمي محلي يتحدث بنية chat completions الخاصة بـ BroadNet. تلقّى CodeAgent على معرّف DeepSeek ردًا يحتوي شيفرة، فشغّلها وأعاد 42. وكانت طلباته تتضمن max_tokens: 4000 وتسلسلات إيقاف، ولا أدوات. أما ToolCallingAgent فتحققنا من بنية طلبه: أُرسل معرّف النموذج دون تغيير، مع مخططَي الأداتين وtool_choice: "required". ويعيد smolagents نتائج الأدوات في رسائل user، ولم يكن خادمنا الوهمي يتبع هذه الصيغة، لذا لم نشغّل ذلك الوكيل حتى إجابة نهائية. لم يكن لدينا مفتاح BroadNet، لذا لم نختبر مخرجات نموذج حقيقية.

حل المشكلات

  • 401. المفتاح خاطئ أو منتهي الصلاحية أو استنفد رصيده.
  • 404. يجب أن ينتهي api_base بـ /v1. وتحقّق من معرّف النموذج. النماذج المدفوعة تحتاج إلى شحن الرصيد؛ والرصيد البالغ $5 يغطي broadnet/gemma-4-26b-a4b ونموذجَي Transcribe.
  • “Make sure to provide correct code blobs”. (ترجمة: تأكّد من تقديم كتل شيفرة صحيحة.) لم يتضمن رد النموذج كتلة شيفرة. ارفع max_tokens، لأن الاستدلال يُحتسب ضمنه، أو جرّب نموذجًا آخر. راجع لماذا تعود الإجابات فارغة.
  • ToolCallingAgent لا ينتهي أبدًا. انتقل إلى broadnet/glm-5.3 أو broadnet/qwen3.8-27b.
  • 429. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة. ويمكن لـ smolagents أن يحدّ من معدل طلباته بنفسه عبر requests_per_minute. راجع الأخطاء وإعادة المحاولة.

أسئلة شائعة

هل أستخدم OpenAIModel أم OpenAIServerModel؟

يوثّق smolagents 1.26 الصنف OpenAIModel لأي خادم متوافق مع OpenAI. وما زالت الحزمة تُصدّر OpenAIServerModel، لكن التوثيق يصف OpenAIModel.

هل يمكن تشغيل smolagents على الخطة غير المحدودة من BroadNet؟

تغطي الخطط نموذج DeepSeek V4.1 Flash. ولا تُدرج BroadNet استدعاء الأدوات له، لكن CodeAgent لا يحتاج إلى استدعاءات أدوات أصلية؛ فهو يطلب من النموذج شيفرة Python. وفي اختبارنا على خادم وهمي، أرسل CodeAgent على معرّف DeepSeek طلبات محادثة عادية بلا حقل tools.

لماذا يحتاج ToolCallingAgent إلى GLM 5.3 أو Qwen3.8 27B؟

لأنه يرسل الأدوات بوصفها مخططات دوال OpenAI مع ضبط tool_choice على required. وتوثيق BroadNet لا يُدرج الأدوات إلا لنموذجَي GLM 5.3 وQwen3.8 27B.

كيف أمرّر max_tokens أو temperature؟

بوصفها وسائط مسمّاة إلى OpenAIModel. يقول توثيق smolagents إن الوسائط الإضافية تُمرَّر إلى كل استدعاء إكمال. وفي اختبارنا أُرسل max_tokens=4000 مع كل طلب.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity