BroadRouter

Menjalankan OpenAI Agents SDK di BroadNet Inference

Diperbarui

Buat client AsyncOpenAI dengan base_url https://inference.broadnet.ai/v1 dan kunci BroadNet Anda, bungkus dalam OpenAIChatCompletionsModel dengan ID model seperti broadnet/glm-5.3, lalu berikan model itu ke Agent. Panggil set_tracing_disabled(True), kecuali Anda punya kunci OpenAI terpisah untuk tracing.

OpenAI Agents SDK adalah framework Python untuk agen dengan tools, handoff, dan guardrail. Dokumentasinya menjelaskan cara memasang provider non-OpenAI. Untuk API yang kompatibel dengan OpenAI seperti BroadNet Inference, Anda memberikan client AsyncOpenAI milik Anda sendiri ke SDK dan memakai kelas model Chat Completions. Secara default SDK memakai Responses API, yang tidak disediakan oleh banyak provider.

Setup

  1. Instal SDK-nya. Dibutuhkan Python 3.10 atau lebih baru.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
  1. Buat client, model, dan agen.
import asyncio
import os

from agents import (
    Agent,
    AsyncOpenAI,
    OpenAIChatCompletionsModel,
    Runner,
    function_tool,
    set_tracing_disabled,
)

set_tracing_disabled(disabled=True)  # tracing needs a platform.openai.com key

client = AsyncOpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)


@function_tool
def get_order_status(order_id: str) -> str:
    """Look up an order."""
    return f"Order {order_id}: shipped"


agent = Agent(
    name="Support agent",
    instructions="Answer briefly. Use tools when you need order data.",
    model=model,
    tools=[get_order_status],
)


async def main():
    result = await Runner.run(agent, "Where is order 4471?")
    print(result.final_output)


asyncio.run(main())
  1. Jalankan. Agen seharusnya memanggil get_order_status dan menjawab berdasarkan hasilnya.

Tiga cara memasang provider

Dokumentasi SDK mencantumkan opsi bawaan berikut:

  • Per agen: berikan OpenAIChatCompletionsModel sebagai Agent.model, seperti di atas. Pakai cara ini jika agen yang berbeda memakai provider yang berbeda.
  • Default global: set_default_openai_client(client) menjadikan client Anda sebagai default. Pasangkan dengan set_default_openai_api("chat_completions").
  • Per run: berikan ModelProvider kustom di RunConfig(model_provider=...).

Default global terlihat seperti ini:

import os
from agents import (
    Agent,
    AsyncOpenAI,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)

agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")

Jika hanya memakai environment variable, atur OPENAI_BASE_URL=https://inference.broadnet.ai/v1 dan isi OPENAI_API_KEY dengan kunci BroadNet Anda, lalu lakukan panggilan set_default_openai_api dan set_tracing_disabled yang sama.

Menurut dokumentasi SDK, saat dirutekan lewat Chat Completions, SDK diam-diam membuang field yang khusus Responses, seperti previous_response_id, conversation_id, dan prompt. Agar muncul error sebagai gantinya, atur strict_feature_validation=True pada OpenAIProvider. Simpan state percakapan di kode Anda sendiri, misalnya dengan meneruskan daftar input dari hasil sebelumnya ke run berikutnya. Tools yang di-host OpenAI, seperti web search dan file search, tidak ada di provider lain. Gunakan function_tool untuk apa pun yang perlu dipanggil agen.

Tracing

Tracing aktif secara default dan mengirim trace ke OpenAI. Dokumentasi SDK menyebut bahwa tanpa API key dari platform.openai.com, Anda sebaiknya mematikannya dengan set_tracing_disabled() atau memasang tracing processor lain. Jika Anda punya kunci OpenAI, tracing bisa tetap aktif dengan memberikan kunci itu lewat set_tracing_export_api_key(...). SDK memakainya hanya untuk mengunggah trace. Kunci BroadNet Anda tidak bisa dipakai untuk itu.

Model mana yang dipilih

Jenis agen Model Catatan
Agen yang memakai tools GLM 5.3 Tools dan output terstruktur tercantum; konteks 1M
Input gambar dengan tools Qwen3.8 27B Konteks 262K; diuji dalam bahasa Arab
Agen yang berjalan lama dengan tarif tetap DeepSeek V4.1 Flash Paket unlimited; tools tidak dicantumkan BroadNet

Dokumentasi SDK memperingatkan bahwa sebagian provider tidak mendukung output terstruktur dengan JSON schema. Jika Anda mengatur output_type pada agen, gunakan GLM 5.3 atau Qwen3.8 27B. Bandingkan harganya di halaman harga.

Troubleshooting

  • 401. Kunci BroadNet salah, kedaluwarsa, atau jatah bayar sesuai pemakaiannya habis. Error tracing di log adalah hal terpisah: artinya tracing masih aktif tanpa kunci OpenAI.
  • 404 atau “not found”. Kemungkinan Anda memakai Responses API. Gunakan OpenAIChatCompletionsModel atau set_default_openai_api("chat_completions"). Jika itu sudah diatur, pastikan ID model sama persis dengan ID BroadNet. Model berbayar memerlukan top up; kredit $5 hanya mencakup Gemma 4 VL 26B.
  • final_output kosong. Penalaran ikut dihitung dalam max_tokens. Jika Anda mengatur ModelSettings(max_tokens=...), naikkan nilainya. Kenapa jawaban kembali kosong.
  • 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Setiap putaran tool adalah permintaan baru. Lihat error dan percobaan ulang.
  • Agen paralel di paket. Satu sesi paket unlimited menjalankan satu permintaan dalam satu waktu. Agen yang dijalankan bersamaan dengan asyncio.gather masing-masing butuh satu sesi, kalau tidak mereka akan mengantre. Lihat menjalankan agen paralel dengan tarif tetap.

Pertanyaan umum

Kenapa Agents SDK memberi error 404 dengan base URL kustom?

Secara default SDK memakai Responses API, sedangkan BroadNet melayani chat completions. Gunakan OpenAIChatCompletionsModel, atau panggil set_default_openai_api("chat_completions") jika Anda mengonfigurasi client lewat environment variable.

Kenapa Agents SDK mengeluh soal tracing?

Tracing mengunggah data ke OpenAI dan butuh kunci dari platform.openai.com. Dokumentasi SDK menyarankan set_tracing_disabled() jika Anda tidak punya kunci itu, atau memakai tracing processor lain.

Bisakah Agents SDK dikonfigurasi hanya dengan environment variable?

Bisa. Isi OPENAI_BASE_URL dengan https://inference.broadnet.ai/v1 dan OPENAI_API_KEY dengan kunci BroadNet Anda, lalu panggil set_default_openai_api("chat_completions") dan set_tracing_disabled(True). OPENAI_DEFAULT_MODEL menentukan model untuk agen yang tidak menyebut model.

Berapa sesi paket yang dibutuhkan untuk run multi-agen?

Satu sesi per permintaan yang berjalan bersamaan. Handoff menjalankan agen satu per satu, jadi satu sesi sudah cukup. Agen yang dijalankan paralel dengan asyncio.gather masing-masing butuh satu sesi.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity