BroadRouter

بناء وكلاء LangGraph على BroadNet Inference

آخر تحديث

ثبّت langgraph وlangchain-openai، ثم أنشئ ChatOpenAI مع ضبط model على معرّف من BroadNet مثل broadnet/glm-5.3، وbase_url على https://inference.broadnet.ai/v1، وapi_key على مفتاح BroadNet. اربط أدواتك به واستخدمه في عقدة داخل StateGraph، أو مرّره إلى create_agent من langchain. استخدم GLM 5.3 أو Qwen3.8 27B، وهما النموذجان اللذان تُدرج لهما BroadNet الأدوات.

LangGraph مكتبة من LangChain لبناء وكلاء متعددي الخطوات يحتفظون بالحالة، على شكل رسوم بيانية (graphs). وليس لها عميل نماذج خاص بها: عقدك تستدعي نموذج محادثة من LangChain. ولتشغيل رسم بياني على BroadNet Inference، أعطه ChatOpenAI من langchain-openai مع العنوان الأساسي لـ BroadNet. BroadRouter هو موقع BroadNet نفسها؛ وتتبع الخطوات توثيق LangGraph وLangChain حتى LangGraph 1.2.22 وlangchain-openai 1.8.

التثبيت

pip install langgraph langchain-openai
export BROADNET_API_KEY='your-broadnet-key'

رسم بياني يستدعي الأدوات

import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.graph import StateGraph, MessagesState, START
from langgraph.prebuilt import ToolNode, tools_condition
from langgraph.checkpoint.memory import InMemorySaver

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city."""
    return f"21C and sunny in {city}"

tools = [get_weather]
model = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
).bind_tools(tools)

def call_model(state: MessagesState):
    return {"messages": [model.invoke(state["messages"])]}

builder = StateGraph(MessagesState)
builder.add_node("model", call_model)
builder.add_node("tools", ToolNode(tools))
builder.add_edge(START, "model")
builder.add_conditional_edges("model", tools_condition)
builder.add_edge("tools", "model")
graph = builder.compile(checkpointer=InMemorySaver())

config = {"configurable": {"thread_id": "demo-1"}}
result = graph.invoke({"messages": [{"role": "user", "content": "What's the weather in Riyadh?"}]}, config)
print(result["messages"][-1].content)

عقدة النموذج تستدعي BroadNet. وتوجّه tools_condition الرسم البياني إلى عقدة الأدوات إذا احتوى الرد على استدعاءات أدوات، ثم تعود نتيجة الأداة إلى النموذج. ويحفظ الـ checkpointer المحادثة لكل thread_id، فإذا استدعيت invoke مرة ثانية بالإعداد نفسه تابعت المحادثة.

بث الرموز من الرسم البياني

for chunk, meta in graph.stream(
    {"messages": [{"role": "user", "content": "And in Dubai?"}]},
    config,
    stream_mode="messages",
):
    if chunk.content and meta["langgraph_node"] == "model":
        print(chunk.content, end="", flush=True)

مع stream_mode="messages" يرسل ChatOpenAI الحقل stream: true إلى BroadNet، ويمرّر LangGraph الرموز كما تصل.

الوكيل الجاهز

إذا لم تحتج إلى رسم بياني مخصّص، فحلقة الوكيل الجاهزة تقبل النموذج نفسه:

from langchain.agents import create_agent  # pip install langchain

agent = create_agent(
    ChatOpenAI(model="broadnet/glm-5.3", base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    tools=tools,
)
agent.invoke({"messages": [{"role": "user", "content": "Weather in Riyadh?"}]})

ما زالت create_react_agent من langgraph.prebuilt تعمل في LangGraph 1.2.22، لكنها تطبع تحذيرًا بأنها انتقلت إلى langchain.agents.create_agent.

أي نموذج تختار

الرسم البياني النموذج
وكلاء مع أدوات، ومخرجات منظَّمة broadnet/glm-5.3 (سياق 1,048,576 رمزًا)
أدوات مع مدخلات صور أو نصوص عربية broadnet/qwen3.8-27b (سياق 262,144 رمزًا)
رسوم بيانية بلا استدعاءات أدوات، ومستندات طويلة broadnet/deepseek-v4.1-flash

يُدرج توثيق BroadNet الأدوات والمخرجات المنظَّمة لنموذجَي GLM 5.3 وQwen3.8 27B فقط. أما DeepSeek V4.1 Flash فهو نموذج الخطط غير المحدودة، ولذلك يناسب الرسوم البيانية التي تلخّص وتوجّه دون استدعاء أدوات. اختبر حلقة أدوات عليه قبل أن تعتمد عليه. أسعار كل النماذج.

إعدادات مهمة

  • ابقَ على chat completions. تقدّم BroadNet المسار /v1/chat/completions. ويقول توثيق LangChain إن ChatOpenAI ينتقل إلى Responses API عند استخدام أدوات OpenAI المدمجة، أو حالة المحادثة، أو المعامل reasoning. فلا تستخدمها، ولا تضبط use_responses_api=True.
  • حد المخرجات. يُحتسب الاستدلال المنطقي ضمن ميزانية المخرجات في DeepSeek V4.1 Flash وGLM 5.3 وQwen3.8 27B. اضبط max_tokens على 2,000 أو أكثر في النموذج. وفي اختبارنا أرسله langchain-openai 1.8 باسم max_completion_tokens.
  • الفروع المتوازية. كل فرع يستدعي النموذج طلبٌ مستقل. يسمح مفتاح الدفع حسب الاستخدام بـ 4 من الطلبات قيد التنفيذ، وجلسة الخطة تشغّل طلبًا واحدًا في كل مرة.

كيف اختبرنا هذا

في 2026-11-15 ثبّتنا langgraph 1.2.22 وlangchain-openai 1.8.0 وlangchain 1.5.0 في بيئة افتراضية نظيفة. شغّلنا الرسم البياني أعلاه وحلقة البث وcreate_agent مقابل خادم وهمي (mock) محلي يتحدث بنية chat completions الخاصة بـ BroadNet ويعيد استدعاءات أدوات. ثم فحصنا الطلبات المسجّلة: ذهب كل استدعاء إلى /v1/chat/completions بمعرّف النموذج broadnet/glm-5.3 دون تغيير، ومفتاح Bearer، ومخطط الأداة، وعادت نتيجة الأداة كرسالة tool. لم يكن لدينا مفتاح BroadNet، لذا لم نختبر مخرجات نموذج حقيقية.

حل المشكلات

  • 401. المفتاح خاطئ، أو منتهي الصلاحية، أو استنفد رصيده.
  • 404. يجب أن ينتهي base_url بـ /v1. وتحقق من معرّف النموذج مع البادئة broadnet/. النماذج المدفوعة تحتاج إلى شحن الرصيد؛ والرصيد البالغ $5 يغطي broadnet/gemma-4-26b-a4b ونموذجَي Transcribe.
  • الوكيل لا يستدعي أي أداة. انتقل إلى broadnet/glm-5.3 أو broadnet/qwen3.8-27b.
  • إجابات فارغة. استُهلكت ميزانية المخرجات في الاستدلال. ارفع max_tokens. راجع لماذا تعود الإجابات فارغة.
  • 429. يسمح مفتاح الدفع حسب الاستخدام بـ 30 من الطلبات في الدقيقة. أضف max_retries إلى ChatOpenAI وراجع الأخطاء وإعادة المحاولة.

أسئلة شائعة

هل يحتاج LangGraph إلى تكامل خاص مع BroadNet؟

لا. يشغّل LangGraph أي نموذج محادثة تستدعيه عقدك. استخدم ChatOpenAI من LangChain مع ضبط base_url على https://inference.broadnet.ai/v1، فتذهب كل عقدة تستدعي النموذج إلى BroadNet عبر chat completions.

هل أستخدم create_react_agent أم create_agent؟

في LangGraph 1.2 ما زالت create_react_agent من langgraph.prebuilt تعمل، لكنها تطبع تحذير إهمال (deprecation) يحيل إلى create_agent في حزمة langchain. وقد عملت الاثنتان مع خادمنا الوهمي بمعرّف نموذج على نمط BroadNet.

أي نموذج من BroadNet يناسب وكيل LangGraph؟

GLM 5.3 (broadnet/glm-5.3) أو Qwen3.8 27B (broadnet/qwen3.8-27b). حلقة الوكيل تعتمد على استدعاءات الأدوات، وBroadNet تُدرج الأدوات لهذين النموذجين فقط.

لماذا تُرسَل قيمة max_tokens التي ضبطتها باسم max_completion_tokens؟

يعيد langchain-openai 1.8 تسمية max_tokens إلى max_completion_tokens في الطلب، بينما يصف المرجع التقني لـ BroadNet الحقل max_tokens. إذا بدا أن حد المخرجات يُتجاهَل، فافحص الطلب الذي يرسله تطبيقك فعلًا.

اقرأها بصيغة Markdownاسأل ChatGPTاسأل Claudeاسأل Perplexity