BroadRouter

Patakbuhin ang OpenAI Agents SDK sa BroadNet Inference

Na-update

Gumawa ng AsyncOpenAI client na may base_url na https://inference.broadnet.ai/v1 at ang BroadNet key mo, ibalot ito sa OpenAIChatCompletionsModel na may model ID gaya ng broadnet/glm-5.3, at ipasa ang model na iyon sa Agent mo. Tawagin ang set_tracing_disabled(True) maliban kung may hiwalay kang OpenAI key para sa tracing.

Ang OpenAI Agents SDK ay Python framework para sa mga agent na may tools, handoffs at guardrails. Ipinapaliwanag ng docs nito kung paano magsaksak ng mga non-OpenAI provider. Para sa isang OpenAI-compatible na API gaya ng BroadNet Inference, ibibigay mo sa SDK ang sarili mong AsyncOpenAI client at gagamitin ang Chat Completions model class. Responses API ang default ng SDK, at maraming provider ang hindi nagse-serve nito.

Setup

  1. I-install ang SDK. Kailangan nito ng Python 3.10 o mas bago.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
  1. Gawin ang client, model at agent.
import asyncio
import os

from agents import (
    Agent,
    AsyncOpenAI,
    OpenAIChatCompletionsModel,
    Runner,
    function_tool,
    set_tracing_disabled,
)

set_tracing_disabled(disabled=True)  # tracing needs a platform.openai.com key

client = AsyncOpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)


@function_tool
def get_order_status(order_id: str) -> str:
    """Look up an order."""
    return f"Order {order_id}: shipped"


agent = Agent(
    name="Support agent",
    instructions="Answer briefly. Use tools when you need order data.",
    model=model,
    tools=[get_order_status],
)


async def main():
    result = await Runner.run(agent, "Where is order 4471?")
    print(result.final_output)


asyncio.run(main())
  1. Patakbuhin ito. Dapat tawagin ng agent ang get_order_status at sumagot batay sa resulta nito.

Tatlong paraan para ikabit ang provider

Ito ang mga built-in na opsyon na nakalista sa docs ng SDK:

  • Kada agent: ipasa ang OpenAIChatCompletionsModel bilang Agent.model, gaya ng nasa itaas. Gamitin ito kapag magkakaibang provider ang gamit ng iba’t ibang agent.
  • Global na default: ginagawang default ng set_default_openai_client(client) ang client mo. Ipares ito sa set_default_openai_api("chat_completions").
  • Kada run: magpasa ng custom na ModelProvider sa RunConfig(model_provider=...).

Ganito ang itsura ng global na default:

import os
from agents import (
    Agent,
    AsyncOpenAI,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)

agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")

Kung environment variables lang ang gagamitin, i-set ang OPENAI_BASE_URL=https://inference.broadnet.ai/v1 at ang OPENAI_API_KEY sa BroadNet key mo, saka gawin ang parehong set_default_openai_api at set_tracing_disabled na tawag.

Kapag dumaan ka sa Chat Completions, sinasabi ng docs ng SDK na tahimik nitong tinatanggal ang mga field na pang-Responses lang, gaya ng previous_response_id, conversation_id at prompt. Para error ang makuha mo sa halip, i-set ang strict_feature_validation=True sa OpenAIProvider. Sa sarili mong code itago ang conversation state, halimbawa sa pagpasa ng input list ng nakaraang resulta sa susunod na run. Wala sa ibang provider ang mga hosted tool ng OpenAI gaya ng web search at file search. Gamitin ang function_tool para sa anumang dapat tawagin ng agent.

Tracing

Naka-on ang tracing bilang default at nagpapadala ito ng traces sa OpenAI. Ayon sa docs ng SDK, kung wala kang API key mula sa platform.openai.com, i-disable ito gamit ang set_tracing_disabled() o mag-set up ng ibang tracing processor. Kung may OpenAI key ka, puwede mong iwang naka-on ang tracing at ipasa ang key na iyon gamit ang set_tracing_export_api_key(...). Para lang sa pag-upload ng traces ito ginagamit ng SDK. Hindi gagana rito ang BroadNet key mo.

Aling model ang pipiliin

Uri ng agent Model Mga tala
Mga agent na gumagamit ng tools GLM 5.3 Nakalista ang tools at structured output; 1M context
Input na larawan na may tools Qwen3.8 27B 262K context; sinubukan sa Arabic
Matatagal na agent sa flat rate DeepSeek V4.1 Flash Mga unlimited na plan; walang tools na nakalista sa BroadNet

Babala ng docs ng SDK na may mga provider na hindi sumusuporta sa JSON-schema structured outputs. Kung magse-set ka ng output_type sa isang agent, gamitin ang GLM 5.3 o Qwen3.8 27B. Ikumpara ang mga presyo sa pricing page.

Troubleshooting

  • 401. Mali, expired, o ubos na ang pay-as-you-go allowance ng BroadNet key. Hiwalay na usapin ang mga tracing error sa logs: ibig sabihin nito ay naka-on pa ang tracing nang walang OpenAI key.
  • 404 o “not found”. Malamang nasa Responses API ka. Gamitin ang OpenAIChatCompletionsModel o set_default_openai_api("chat_completions"). Kung naka-set na iyon, tiyaking eksaktong tugma ang model ID sa ID ng BroadNet. Kailangan ng top-up para sa mga bayad na model; ang Gemma 4 VL 26B at ang dalawang Transcribe model ang sakop ng $5 na credit.
  • Walang laman na final_output. Kasama ang reasoning sa max_tokens. Kung nag-set ka ng ModelSettings(max_tokens=...), taasan ito. Bakit walang laman ang mga sagot.
  • 429. Ang isang pay-as-you-go key ay may 30 request kada minuto at 4 na sabay-sabay. Bagong request ang bawat tool round-trip. Tingnan ang errors and retries.
  • Mga parallel na agent sa isang plan. Isang request lang sa isang pagkakataon ang pinapatakbo ng isang unlimited plan session. Ang mga agent na sabay na inilunsad gamit ang asyncio.gather ay tig-iisang session ang kailangan, kung hindi ay pipila sila. Tingnan ang pagpapatakbo ng mga parallel na agent sa flat rate.

Mga tanong

Bakit 404 error ang nakukuha ko sa Agents SDK kapag custom ang base URL?

Responses API ang default ng SDK, pero chat completions ang sine-serve ng BroadNet. Gamitin ang OpenAIChatCompletionsModel, o tawagin ang set_default_openai_api("chat_completions") kung sa environment variables mo kino-configure ang client.

Bakit nagrereklamo ang Agents SDK tungkol sa tracing?

Ina-upload ang tracing sa OpenAI at kailangan nito ng key mula sa platform.openai.com. Kung wala ka nito, inirerekomenda ng docs ng SDK ang set_tracing_disabled(), o ibang tracing processor.

Puwede ko bang i-configure ang Agents SDK gamit lang ang environment variables?

Oo. I-set ang OPENAI_BASE_URL sa https://inference.broadnet.ai/v1 at ang OPENAI_API_KEY sa BroadNet key mo, saka tawagin ang set_default_openai_api("chat_completions") at set_tracing_disabled(True). Ang OPENAI_DEFAULT_MODEL ang nagse-set ng model para sa mga agent na walang pinangalanang model.

Ilang plan session ang kailangan ng isang multi-agent run?

Isa kada request na sabay na tumatakbo. Sunud-sunod tumatakbo ang mga agent sa handoff, kaya sapat na ang isang session. Ang mga agent na sabay na pinapatakbo gamit ang asyncio.gather ay tig-iisang session ang kailangan.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity