Agen adalah model di dalam loop: bertanya, bertindak dengan tool, membaca hasil, memutuskan lagi.
Cara kerjanya
Anthropic memisahkan dua desain. Workflow adalah “systems where LLMs and tools are orchestrated through predefined code paths” (terjemahan: sistem di mana LLM dan tool diatur lewat jalur kode yang sudah ditentukan). Agen adalah sistem di mana “LLMs dynamically direct their own processes and tool usage” (terjemahan: LLM secara dinamis mengarahkan proses dan penggunaan tool-nya sendiri).
OpenAI Agents SDK mendokumentasikan loop itu sendiri. Runner memanggil model. Jika balasannya jawaban akhir, run selesai. Jika berisi tool call, runner mengeksekusinya, menambahkan hasilnya, lalu memanggil model lagi. Pengaturan max_turns membatasi loop dan memunculkan MaxTurnsExceeded saat batas itu terlewati.
Contoh: agen coding yang diminta memperbaiki test yang gagal mungkin butuh empat giliran.
Turn 1 model -> tool call: run_tests()
Turn 2 model -> tool call: read_file("src/dates.py")
Turn 3 model -> tool call: edit_file("src/dates.py", ...)
Turn 4 model -> final answer: "Fixed the timezone bug; tests pass."
(Jalankan test, baca file, edit file; di giliran keempat model melaporkan bahwa bug zona waktu sudah diperbaiki dan test lolos.) Setiap giliran adalah permintaan API terpisah. Jika system prompt dan definisi tool berjumlah 5.000 token, keduanya dikirim 4 kali: 20.000 token input sebelum riwayat atau output tool dihitung.
Tools bisa berupa fungsi Anda sendiri atau berasal dari server MCP, yang memungkinkan satu agen terhubung ke file system, database, dan API SaaS lewat protokol bersama.
Kenapa ini penting
- Biaya naik seiring giliran. Setiap giliran adalah permintaan baru yang mengirim ulang percakapan. Tulisan anggaran token agen merinci ke mana token-token itu pergi. Input cache menurunkan tagihan untuk prefiks yang berulang.
- Konteks terisi penuh. Run yang panjang mendesak context window dan kualitasnya menurun bahkan sebelum mencapai batas. Lihat manajemen konteks untuk agen yang berjalan lama.
- Error menumpuk. Anthropic mencatat bahwa otonomi membawa “higher costs, and the potential for compounding errors” (terjemahan: biaya lebih tinggi, dan potensi error yang menumpuk). Tambahkan kondisi berhenti, guardrails, dan persetujuan manusia untuk tindakan yang mengubah data atau mengeluarkan uang.
- Paralelisme. Beberapa agen berarti beberapa permintaan berjalan bersamaan. Batas konkurensi penyedia Anda menentukan berapa yang bisa jalan sekaligus. Tulisan biaya multi-agen membandingkan harga per token dan harga tetap untuk kasus ini.
Di BroadNet Inference
Framework agen apa pun yang menerima base URL kompatibel OpenAI bisa memanggil BroadNet; panduan OpenAI Agents SDK menunjukkan penyiapannya. Dokumentasi BroadNet mencantumkan tool calling untuk GLM 5.3 dan Qwen3.8 27B. Dokumentasi BroadNet menetapkan kunci bayar sesuai pemakaian di 30 permintaan per menit dan 4 permintaan yang berjalan bersamaan.
Paket harga tetap (Full Moon, Orbit, Meteor) mencakup DeepSeek V4.1 Flash tanpa meteran token. Satu sesi menjalankan satu permintaan dalam satu waktu, sama seperti cara kerja satu agen, jadi Anda membeli satu sesi per agen yang dijalankan secara paralel. Dokumentasi BroadNet tidak mencantumkan tool calling untuk DeepSeek V4.1 Flash, jadi uji tool call agen Anda di model itu sebelum mengandalkan sebuah paket; tool calling yang terdokumentasi berarti GLM 5.3 atau Qwen3.8 27B dengan bayar sesuai pemakaian.