يقبل ChatOpenAI في LangChain أي نقطة نهاية عبر base_url. وهذا يعمل مع BroadNet Inference لأنها تستخدم بنية chat completions القياسية. أما إن كنت تستدعي الواجهة مباشرة، فراجع دليل Python SDK.
التثبيت
تحتاج الإصدارات الحالية من langchain-openai (السلسلة 1.x) إلى Python 3.11 أو أحدث.
pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'
الاتصال
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="broadnet/glm-5.3",
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
max_tokens=2000, # reasoning counts toward this limit
)
print(llm.invoke("Summarise the CAP theorem in two sentences.").content)
الاسم openai_api_base بديل لـ base_url. وإن غاب كلاهما، يقرأ LangChain المتغيّر OPENAI_API_BASE، ثم يقرأ عميل openai الأساسي OPENAI_BASE_URL.
ما يجب معرفته
- نص الاستدلال المنطقي لا يُحفَظ. يقول توثيق LangChain إن
ChatOpenAIيلتزم بمواصفة OpenAI الرسمية ولا يحتفظ بالحقول غير القياسية مثلreasoning_content. تحصل على الإجابة النهائية، وهي عادةً ما تحتاجه السلسلة. - اترك مساحة للاستدلال المنطقي. تبدأ نماذج GLM 5.3 وDeepSeek V4.1 Flash وQwen3.8 27B بالاستدلال المنطقي أولًا، وقد تُرجع قيمة صغيرة في
max_tokensإجابة فارغة. راجع لماذا تعود الإجابات فارغة. - الاستخدام أثناء البث. حين تضبط نقطة النهاية عبر
OPENAI_BASE_URL، يعطّل LangChain الخيارstream_usageافتراضيًا. مرّرstream_usage=Trueإن أردت أعداد الرموز أثناء البث. ويذكر توثيق BroadNet أن بيانات الاستخدام تصل في آخر جزء عند طلبها. - ابقَ على chat completions. تقدّم BroadNet المسار
/v1/chat/completions، لا Responses API. ويقول توثيق LangChain إنChatOpenAIينتقل إلى Responses API حين تستخدم أدوات OpenAI المدمجة (البحث على الويب، والبحث في الملفات، ومفسّر الشيفرة وما شابهها)، أو حالة المحادثة، أو المعاملreasoning. لا تستخدمها، ولا تضبطuse_responses_api=True. - اسم حد الرموز. يقول توثيق LangChain إن
max_tokensيُحوَّل داخليًا إلىmax_completion_tokens، بينما يصف توثيق BroadNet المعاملmax_tokens. فإن بدا أن الحد يُتجاهَل، فافحص الطلب الذي يرسله تطبيقك.
أي نموذج لأي سلسلة
| السلسلة | النموذج |
|---|---|
| استدعاء الأدوات والمخرجات المنظَّمة | broadnet/glm-5.3 |
| المستندات الطويلة والوكلاء، الخطة غير المحدودة | broadnet/deepseek-v4.1-flash |
| النصوص أو الصور العربية | broadnet/qwen3.8-27b |
حل المشكلات
- 401. المفتاح خاطئ أو منتهي الصلاحية أو استنفد رصيد الدفع حسب الاستخدام. وإن لم تمرّر
api_key، فقد استخدم LangChain المتغيّرOPENAI_API_KEY، وربما يحمل مفتاحًا من OpenAI. - 404 أو “not found”. تأكّد أن
base_urlينتهي بـ/v1وأن لا شيء يوجّه الاستدعاء إلى Responses API (انظر أعلاه). ثم تأكّد أن معرّف النموذج يطابق معرّف BroadNet تمامًا، مع البادئةbroadnet/. النماذج المدفوعة تحتاج إلى شحن الرصيد؛ فالرصيد المبدئي البالغ $5 يغطيbroadnet/gemma-4-26b-a4bونموذجَي Transcribe. - الحقل
contentفارغ. استهلك الاستدلال المنطقي الميزانية. ارفعmax_tokens. راجع لماذا تعود الإجابات فارغة. - لا تحدث استدعاءات الأدوات أبدًا. استخدم
broadnet/glm-5.3أوbroadnet/qwen3.8-27b؛ فتوثيق BroadNet يُدرج الأدوات لهذين النموذجين فقط. - الخطأ 429 في السلاسل الدفعية أو المتوازية. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة و4 في آنٍ واحد. اضبط
max_concurrencyفي إعدادات الـ runnable عند استدعاءbatch(). راجع رموز الأخطاء وإعادة المحاولة.
