OpenAI Agents SDK adalah framework Python untuk agen dengan tools, handoff, dan guardrail. Dokumentasinya menjelaskan cara memasang provider non-OpenAI. Untuk API yang kompatibel dengan OpenAI seperti BroadNet Inference, Anda memberikan client AsyncOpenAI milik Anda sendiri ke SDK dan memakai kelas model Chat Completions. Secara default SDK memakai Responses API, yang tidak disediakan oleh banyak provider.
Setup
- Instal SDK-nya. Dibutuhkan Python 3.10 atau lebih baru.
pip install openai-agents
export BROADNET_API_KEY='your-broadnet-key'
- Buat client, model, dan agen.
import asyncio
import os
from agents import (
Agent,
AsyncOpenAI,
OpenAIChatCompletionsModel,
Runner,
function_tool,
set_tracing_disabled,
)
set_tracing_disabled(disabled=True) # tracing needs a platform.openai.com key
client = AsyncOpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
model = OpenAIChatCompletionsModel(model="broadnet/glm-5.3", openai_client=client)
@function_tool
def get_order_status(order_id: str) -> str:
"""Look up an order."""
return f"Order {order_id}: shipped"
agent = Agent(
name="Support agent",
instructions="Answer briefly. Use tools when you need order data.",
model=model,
tools=[get_order_status],
)
async def main():
result = await Runner.run(agent, "Where is order 4471?")
print(result.final_output)
asyncio.run(main())
- Jalankan. Agen seharusnya memanggil
get_order_statusdan menjawab berdasarkan hasilnya.
Tiga cara memasang provider
Dokumentasi SDK mencantumkan opsi bawaan berikut:
- Per agen: berikan
OpenAIChatCompletionsModelsebagaiAgent.model, seperti di atas. Pakai cara ini jika agen yang berbeda memakai provider yang berbeda. - Default global:
set_default_openai_client(client)menjadikan client Anda sebagai default. Pasangkan denganset_default_openai_api("chat_completions"). - Per run: berikan
ModelProviderkustom diRunConfig(model_provider=...).
Default global terlihat seperti ini:
import os
from agents import (
Agent,
AsyncOpenAI,
set_default_openai_api,
set_default_openai_client,
set_tracing_disabled,
)
client = AsyncOpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
set_default_openai_client(client, use_for_tracing=False)
set_default_openai_api("chat_completions")
set_tracing_disabled(True)
agent = Agent(name="Assistant", instructions="Be brief.", model="broadnet/glm-5.3")
Jika hanya memakai environment variable, atur OPENAI_BASE_URL=https://inference.broadnet.ai/v1 dan isi OPENAI_API_KEY dengan kunci BroadNet Anda, lalu lakukan panggilan set_default_openai_api dan set_tracing_disabled yang sama.
Menurut dokumentasi SDK, saat dirutekan lewat Chat Completions, SDK diam-diam membuang field yang khusus Responses, seperti previous_response_id, conversation_id, dan prompt. Agar muncul error sebagai gantinya, atur strict_feature_validation=True pada OpenAIProvider. Simpan state percakapan di kode Anda sendiri, misalnya dengan meneruskan daftar input dari hasil sebelumnya ke run berikutnya. Tools yang di-host OpenAI, seperti web search dan file search, tidak ada di provider lain. Gunakan function_tool untuk apa pun yang perlu dipanggil agen.
Tracing
Tracing aktif secara default dan mengirim trace ke OpenAI. Dokumentasi SDK menyebut bahwa tanpa API key dari platform.openai.com, Anda sebaiknya mematikannya dengan set_tracing_disabled() atau memasang tracing processor lain. Jika Anda punya kunci OpenAI, tracing bisa tetap aktif dengan memberikan kunci itu lewat set_tracing_export_api_key(...). SDK memakainya hanya untuk mengunggah trace. Kunci BroadNet Anda tidak bisa dipakai untuk itu.
Model mana yang dipilih
| Jenis agen | Model | Catatan |
|---|---|---|
| Agen yang memakai tools | GLM 5.3 | Tools dan output terstruktur tercantum; konteks 1M |
| Input gambar dengan tools | Qwen3.8 27B | Konteks 262K; diuji dalam bahasa Arab |
| Agen yang berjalan lama dengan tarif tetap | DeepSeek V4.1 Flash | Paket unlimited; tools tidak dicantumkan BroadNet |
Dokumentasi SDK memperingatkan bahwa sebagian provider tidak mendukung output terstruktur dengan JSON schema. Jika Anda mengatur output_type pada agen, gunakan GLM 5.3 atau Qwen3.8 27B. Bandingkan harganya di halaman harga.
Troubleshooting
- 401. Kunci BroadNet salah, kedaluwarsa, atau jatah bayar sesuai pemakaiannya habis. Error tracing di log adalah hal terpisah: artinya tracing masih aktif tanpa kunci OpenAI.
- 404 atau “not found”. Kemungkinan Anda memakai Responses API. Gunakan
OpenAIChatCompletionsModelatauset_default_openai_api("chat_completions"). Jika itu sudah diatur, pastikan ID model sama persis dengan ID BroadNet. Model berbayar memerlukan top up; kredit $5 hanya mencakup Gemma 4 VL 26B. final_outputkosong. Penalaran ikut dihitung dalammax_tokens. Jika Anda mengaturModelSettings(max_tokens=...), naikkan nilainya. Kenapa jawaban kembali kosong.- 429. Kunci bayar sesuai pemakaian mengizinkan 30 permintaan per menit dan 4 permintaan sekaligus. Setiap putaran tool adalah permintaan baru. Lihat error dan percobaan ulang.
- Agen paralel di paket. Satu sesi paket unlimited menjalankan satu permintaan dalam satu waktu. Agen yang dijalankan bersamaan dengan
asyncio.gathermasing-masing butuh satu sesi, kalau tidak mereka akan mengantre. Lihat menjalankan agen paralel dengan tarif tetap.
