BroadRouter

استخدام Pydantic AI مع BroadNet Inference (OpenAICompatibleProvider)

آخر تحديث

ثبّت pydantic-ai-slim[openai]، ثم أنشئ OpenAIChatModel بمعرّف نموذج من BroadNet مثل broadnet/glm-5.3 ومزوّد OpenAICompatibleProvider عنوانه الأساسي https://inference.broadnet.ai/v1 ومفتاحه مفتاح BroadNet. مرّر النموذج إلى Agent. استخدم OpenAIChatModel لا نموذج Responses، لأن BroadNet يقدّم إكمال المحادثات. وتقول وثائق Pydantic AI إن OpenAIProvider مع base_url مخصّص لـ OpenAI نفسها.

Pydantic AI إطار عمل بلغة Python لبناء الوكلاء من فريق Pydantic. ولأي خدمة ليس لها مزوّد مدمج فيه، تقول وثائقه أن تستخدم OpenAICompatibleProvider مع base_url الخاص بالخدمة. ويقدّم BroadNet Inference إكمال المحادثات القياسي على https://inference.broadnet.ai/v1، فهذا هو الطريق. موقع BroadRouter هو موقع BroadNet نفسها، ويتبع هذا الدليل وثائق Pydantic AI كما هي في الإصدار 2.68.

التثبيت

pip install "pydantic-ai-slim[openai]"
export BROADNET_API_KEY='your-broadnet-key'

الاتصال

import os
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai_compatible import OpenAICompatibleProvider

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider(
        'broadnet',
        base_url='https://inference.broadnet.ai/v1',
        api_key=os.environ['BROADNET_API_KEY'],
    ),
)

agent = Agent(model)
result = agent.run_sync('Give me three names for a Go linting tool.')
print(result.output)

تشغيل هذه الشيفرة هو الاختبار: ظهور إجابة مطبوعة يعني أن المفتاح والعنوان ومعرّف النموذج صحيحة.

  • الوسيط الأول هو معرّف النموذج المُرسَل إلى BroadNet. استخدمه كما هو تمامًا، مع البادئة broadnet/.
  • اسم المزوّد ('broadnet' هنا) يُسجَّل في كل استجابة. وتقول وثائق Pydantic AI أن تُبقيه ثابتًا، لأنه يحدّد أي بيانات من الاستجابات السابقة تُعاد إلى الخدمة.
  • ابقَ على OpenAIChatModel. تقول وثائق Pydantic AI ألّا تستخدم OpenAIResponsesModel إلا إذا كانت الخدمة تطبّق Responses API. وBroadNet لا يدرجها.

الأدوات والمخرجات المنظَّمة

from pydantic import BaseModel

class City(BaseModel):
    name: str
    country: str

agent = Agent(model, output_type=City)
print(agent.run_sync('Which city hosts the Burj Khalifa?').output)

استخدم broadnet/glm-5.3 أو broadnet/qwen3.8-27b للأدوات والمخرجات المنظَّمة؛ فوثائق BroadNet لا تدرج الميزتين إلا لهذين النموذجين.

متى تضبط ملف تعريف النموذج

يختار Pydantic AI ملف تعريف الطلب (profile) بناءً على اسم النموذج. وإذا تجاهلت الخدمة ميزة أو رفضتها، تقول وثائقه أن تمرّر OpenAIModelProfile خاصًا بك. وهناك إعدادان يستحقان المعرفة مع BroadNet:

from pydantic_ai.profiles.openai import OpenAIModelProfile

model = OpenAIChatModel(
    'broadnet/glm-5.3',
    provider=OpenAICompatibleProvider('broadnet', base_url='https://inference.broadnet.ai/v1', api_key=os.environ['BROADNET_API_KEY']),
    profile=OpenAIModelProfile(
        openai_chat_supports_max_completion_tokens=False,  # send max_tokens, the field BroadNet documents
        openai_supports_strict_tool_definition=False,      # only if strict tool schemas are rejected
    ),
)

مرّر حد المخرجات عبر إعدادات النموذج، مثل agent.run_sync(prompt, model_settings={'max_tokens': 2000}). ويُحتسب الاستدلال المنطقي ضمنه في DeepSeek V4.1 Flash وGLM 5.3 وQwen3.8 27B.

أي نموذج تختار

الوكيل النموذج
الأدوات والمخرجات المنظَّمة broadnet/glm-5.3
الصور أو النصوص العربية، مع الأدوات broadnet/qwen3.8-27b
المستندات الطويلة، خطة بسعر ثابت broadnet/deepseek-v4.1-flash
الرصيد المبدئي المجاني broadnet/gemma-4-26b-a4b (سياق 32,768 رمزًا)

أسعار كل النماذج.

حل المشكلات

  • 401. المفتاح خاطئ أو منتهي الصلاحية أو استُنفدت حصته.
  • 404 أو النموذج غير موجود. يجب أن ينتهي base_url بـ /v1. تحقّق من معرّف النموذج. تحتاج النماذج المدفوعة إلى شحن الرصيد؛ فرصيد $5 لا يغطي إلا broadnet/gemma-4-26b-a4b ونموذجَي Transcribe.
  • مخرجات فارغة أو حلقة إعادة محاولة بسبب التحقق. استهلك الاستدلال المنطقي ميزانية المخرجات. ارفع max_tokens. لماذا تصل الإجابات فارغة.
  • 400 على تعريفات الأدوات. اضبط openai_supports_strict_tool_definition=False في ملف التعريف، واستخدم نموذجًا يدرج BroadNet له الأدوات.
  • 429 عند تشغيل الوكلاء بالتزامن. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة و4 قيد التنفيذ. راجع الأخطاء وإعادة المحاولة.

أسئلة شائعة

هل أستخدم OpenAIProvider أم OpenAICompatibleProvider مع BroadNet؟

OpenAICompatibleProvider. تقول وثائق Pydantic AI إن OpenAIProvider يقبل base_url أيضًا، لكنه مخصّص لـ OpenAI نفسها أو لوسيط شفاف إليها، ويفترض نماذج OpenAI وميزاتها.

لماذا OpenAIChatModel وليس نموذج OpenAI الافتراضي؟

يستخدم نموذج OpenAI الافتراضي في Pydantic AI واجهة Responses API. أما BroadNet فيقدّم إكمال المحادثات على /v1/chat/completions، وهو ما يستدعيه OpenAIChatModel.

هل تعمل الأدوات والمخرجات المنظَّمة؟

نعم، على النموذجين اللذين يدرج BroadNet لهما الأدوات والمخرجات المنظَّمة: GLM 5.3 وQwen3.8 27B. لا تدرج وثائق BroadNet الأدوات لنموذج DeepSeek V4.1 Flash، لذا اختبر عليه الوكلاء الذين يستخدمون الأدوات أولًا.

كيف أمنع Pydantic AI من إرسال max_completion_tokens؟

مرّر profile=OpenAIModelProfile(openai_chat_supports_max_completion_tokens=False) إلى OpenAIChatModel. عندها يرسل Pydantic AI الحقل الأقدم max_tokens، وهو الحقل الذي يصفه المرجع التقني لـ BroadNet.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity