BroadRouter
Başlayın

BroadNet Inference üzerinde LangGraph ajanları oluşturun

Güncellendi

langgraph ve langchain-openai paketlerini kurun, ardından ChatOpenAI'yi model değeri broadnet/glm-5.3 gibi bir BroadNet kimliği, base_url değeri https://inference.broadnet.ai/v1 ve api_key değeri BroadNet anahtarınız olacak şekilde oluşturun. Araçlarınızı bağlayıp bir StateGraph düğümünde kullanın veya langchain'in create_agent fonksiyonuna verin. BroadNet'in araç desteğiyle listelediği GLM 5.3 veya Qwen3.8 27B modelini kullanın.

LangGraph, LangChain’in graf olarak kurulan, durum tutan (stateful) ve çok adımlı ajanlar için kütüphanesidir. Kendine ait bir model istemcisi yoktur: düğümleriniz bir LangChain sohbet modelini çağırır. Bir grafı BroadNet Inference üzerinde çalıştırmak için ona langchain-openai paketindeki ChatOpenAI sınıfını BroadNet’in base URL’siyle verin. BroadRouter, BroadNet’in kendi sitesidir; bu rehber LangGraph 1.2.22 ve langchain-openai 1.8 itibarıyla LangGraph ve LangChain belgelerini izler.

Kurulum

pip install langgraph langchain-openai
export BROADNET_API_KEY='your-broadnet-key'

Araç çağıran bir graf

import os
from langchain_openai import ChatOpenAI
from langchain_core.tools import tool
from langgraph.graph import StateGraph, MessagesState, START
from langgraph.prebuilt import ToolNode, tools_condition
from langgraph.checkpoint.memory import InMemorySaver

@tool
def get_weather(city: str) -> str:
    """Get the weather for a city."""
    return f"21C and sunny in {city}"

tools = [get_weather]
model = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
).bind_tools(tools)

def call_model(state: MessagesState):
    return {"messages": [model.invoke(state["messages"])]}

builder = StateGraph(MessagesState)
builder.add_node("model", call_model)
builder.add_node("tools", ToolNode(tools))
builder.add_edge(START, "model")
builder.add_conditional_edges("model", tools_condition)
builder.add_edge("tools", "model")
graph = builder.compile(checkpointer=InMemorySaver())

config = {"configurable": {"thread_id": "demo-1"}}
result = graph.invoke({"messages": [{"role": "user", "content": "What's the weather in Riyadh?"}]}, config)
print(result["messages"][-1].content)

Model düğümü BroadNet’i çağırır. Yanıtta araç çağrıları varsa tools_condition grafı araç düğümüne yönlendirir ve araç sonucu modele geri döner. Checkpointer konuşmayı thread_id başına saklar; aynı config ile yapılan ikinci bir invoke konuşmayı sürdürür.

Graftan token akışı

for chunk, meta in graph.stream(
    {"messages": [{"role": "user", "content": "And in Dubai?"}]},
    config,
    stream_mode="messages",
):
    if chunk.content and meta["langgraph_node"] == "model":
        print(chunk.content, end="", flush=True)

stream_mode="messages" ile ChatOpenAI, BroadNet’e stream: true gönderir ve LangGraph token’ları olduğu gibi iletir.

Hazır ajan

Özel bir grafa ihtiyacınız yoksa hazır ajan döngüsü aynı modeli alır:

from langchain.agents import create_agent  # pip install langchain

agent = create_agent(
    ChatOpenAI(model="broadnet/glm-5.3", base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"]),
    tools=tools,
)
agent.invoke({"messages": [{"role": "user", "content": "Weather in Riyadh?"}]})

langgraph.prebuilt içindeki create_react_agent LangGraph 1.2.22’de hâlâ çalışır, ancak langchain.agents.create_agent konumuna taşındığını belirten bir uyarı yazdırır.

Hangi modeli seçmeli

Graf Model
Araç kullanan ajanlar, yapılandırılmış çıktı broadnet/glm-5.3 (1.048.576 token bağlam)
Araçlar artı görsel girdi veya Arapça metin broadnet/qwen3.8-27b (262.144 token bağlam)
Araç çağrısı olmayan graflar, uzun belgeler broadnet/deepseek-v4.1-flash

BroadNet’in belgeleri araçları ve yapılandırılmış çıktıyı yalnızca GLM 5.3 ve Qwen3.8 27B için listeler. DeepSeek V4.1 Flash, sınırsız planlarda sunulan modeldir; bu yüzden araç çağırmayan özetle-ve-yönlendir graflarına uygundur. Bir araç döngüsüne güvenmeden önce onu bu modelde test edin. Tüm modellerin fiyatları.

Önemli ayarlar

  • Chat completions’ta kalın. BroadNet /v1/chat/completions sunar. LangChain belgelerine göre ChatOpenAI, OpenAI’nin yerleşik araçlarını, konuşma durumunu veya reasoning parametresini kullandığınızda Responses API’ye geçer. Bunları kullanmayın ve use_responses_api=True ayarlamayın.
  • Çıktı sınırı. DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B’de akıl yürütme çıktı bütçesine dahildir. Modelde max_tokens değerini 2.000 veya üzeri yapın. Testimizde langchain-openai 1.8 bunu max_completion_tokens olarak gönderdi.
  • Paralel dallar. Modeli çağıran her dal ayrı bir istektir. Kullandıkça öde anahtarı aynı anda 4 işlemdeki isteğe izin verir; bir plan oturumu ise istekleri tek tek çalıştırır.

Bunu nasıl test ettik

2026-11-15’te temiz bir sanal ortama langgraph 1.2.22, langchain-openai 1.8.0 ve langchain 1.5.0 kurduk. Yukarıdaki grafı, akış döngüsünü ve create_agent örneğini, BroadNet’in chat completions yapısını konuşan ve araç çağrıları döndüren yerel bir mock sunucuya karşı çalıştırdık. Kaydedilen istekleri inceledik. Her çağrı /v1/chat/completions adresine gitti; broadnet/glm-5.3 model kimliği değişmeden, bir Bearer anahtarı ve araç şemasıyla. Araç sonucu da bir tool mesajı olarak geri geldi. Elimizde bir BroadNet anahtarı yoktu; bu yüzden gerçek model çıktısını test etmedik.

Sorun giderme

  • 401. Anahtar yanlış, süresi dolmuş veya kullanım hakkı tükenmiş.
  • 404. base_url /v1 ile bitmelidir. Model kimliğini broadnet/ önekiyle birlikte kontrol edin. Ücretli modeller bakiye yüklemesi gerektirir; $5 kredi yalnızca broadnet/gemma-4-26b-a4b modelini kapsar.
  • Ajan hiç araç çağırmıyor. broadnet/glm-5.3 veya broadnet/qwen3.8-27b modeline geçin.
  • Boş yanıtlar. Çıktı bütçesi akıl yürütmeye gitti. max_tokens değerini artırın. Yanıtlar neden boş geliyor.
  • 429. Kullandıkça öde anahtarı dakikada 30 isteğe izin verir. ChatOpenAI’ye max_retries ekleyin ve hatalar ve yeniden denemeler rehberine bakın.

Sık sorulan sorular

LangGraph için ayrı bir BroadNet entegrasyonu gerekir mi?

Hayır. LangGraph, düğümlerinizin çağırdığı sohbet modeli hangisiyse onu çalıştırır. LangChain'in ChatOpenAI sınıfını base_url değeri https://inference.broadnet.ai/v1 olacak şekilde kullanın; modeli çağıran her düğüm chat completions üzerinden BroadNet'e gider.

create_react_agent mi kullanmalıyım, create_agent mı?

LangGraph 1.2'de langgraph.prebuilt içindeki create_react_agent hâlâ çalışır, ancak langchain paketindeki create_agent'ı işaret eden bir kullanımdan kaldırma uyarısı yazdırır. İkisi de BroadNet tarzı bir model kimliğiyle mock sunucumuzda çalıştı.

Bir LangGraph ajanı hangi BroadNet modelini kullanmalı?

GLM 5.3 (broadnet/glm-5.3) veya Qwen3.8 27B (broadnet/qwen3.8-27b). Ajan döngüsü araç çağrılarına dayanır ve BroadNet araç desteğini yalnızca bu iki model için listeler.

Ayarladığım max_tokens neden max_completion_tokens olarak gönderiliyor?

langchain-openai 1.8, istekte max_tokens alanının adını max_completion_tokens olarak değiştirir. BroadNet'in API referansı max_tokens alanını tanımlar. Bir çıktı sınırı göz ardı ediliyor gibi görünüyorsa uygulamanızın gerçekte gönderdiği isteği kontrol edin.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor