Ejen ialah model dalam gelung: bertanya, bertindak dengan alatan, membaca hasil, membuat keputusan semula.
Cara ia berfungsi
Anthropic membezakan dua reka bentuk. Aliran kerja ialah “systems where LLMs and tools are orchestrated through predefined code paths.” (Terjemahan BroadRouter: “sistem di mana LLM dan alatan diatur melalui laluan kod yang telah ditetapkan.”) Ejen pula ialah sistem di mana “LLMs dynamically direct their own processes and tool usage.” (Terjemahan BroadRouter: “LLM mengarahkan proses dan penggunaan alatannya sendiri secara dinamik.”)
OpenAI Agents SDK mendokumenkan gelung itu sendiri. Runner memanggil model. Jika balasan ialah jawapan akhir, larian tamat. Jika ia mengandungi panggilan alatan, runner melaksanakannya, menambah hasilnya dan memanggil model sekali lagi. Tetapan max_turns mengehadkan gelung dan menimbulkan MaxTurnsExceeded apabila had itu dilepasi.
Contoh: ejen pengekodan yang diminta membaiki ujian yang gagal mungkin mengambil empat giliran. Giliran 1 menjalankan ujian; giliran 2 membaca src/dates.py; giliran 3 menyunting fail itu; dan giliran 4 memberikan jawapan akhir bahawa pepijat zon waktu telah dibaiki dan ujian lulus.
Turn 1 model -> tool call: run_tests()
Turn 2 model -> tool call: read_file("src/dates.py")
Turn 3 model -> tool call: edit_file("src/dates.py", ...)
Turn 4 model -> final answer: "Fixed the timezone bug; tests pass."
Setiap giliran ialah permintaan API yang berasingan. Jika prompt sistem dan definisi alatan berjumlah 5,000 token, ia dihantar 4 kali: 20,000 token input sebelum sebarang sejarah atau output alatan dikira.
Alatan boleh jadi fungsi anda sendiri atau datang daripada pelayan MCP, yang membolehkan satu ejen bersambung kepada sistem fail, pangkalan data dan API SaaS melalui satu protokol yang dikongsi.
Mengapa ia penting
- Kos bertambah dengan giliran. Setiap giliran ialah permintaan baharu yang menghantar semula perbualan. Artikel bajet token ejen memperincikan ke mana token itu pergi. Input cache mengurangkan bil untuk awalan yang berulang.
- Konteks menjadi penuh. Larian panjang menghampiri had tetingkap konteks dan kualitinya merosot sebelum had itu dicapai. Lihat pengurusan konteks untuk ejen yang berjalan lama.
- Ralat bertimbun. Anthropic menyatakan bahawa autonomi membawa “higher costs, and the potential for compounding errors.” (Terjemahan BroadRouter: “kos yang lebih tinggi, dan potensi ralat yang bertimbun.”) Tambah syarat berhenti, guardrails dan kelulusan manusia untuk tindakan yang mengubah data atau membelanjakan wang.
- Keselarian. Beberapa ejen bermakna beberapa permintaan sedang berjalan serentak. Had keserentakan penyedia anda menentukan berapa banyak yang boleh berjalan sekali gus. Kos berbilang ejen membandingkan harga setiap token dan harga tetap untuk kes ini.
Di BroadNet Inference
Mana-mana rangka kerja ejen yang menerima base URL serasi OpenAI boleh memanggil BroadNet; panduan OpenAI Agents SDK menunjukkan persediaannya. Dokumentasi BroadNet menyenaraikan tool calling untuk GLM 5.3 dan Qwen3.8 27B. Dokumentasi BroadNet menetapkan kunci bayar ikut guna pada 30 permintaan seminit dan 4 permintaan serentak.
Pelan kadar tetap (Full Moon, Orbit, Meteor) meliputi DeepSeek V4.1 Flash tanpa meter token. Satu sesi menjalankan satu permintaan pada satu masa, sama seperti cara satu ejen berfungsi, jadi anda membeli satu sesi bagi setiap ejen yang anda jalankan secara selari. Dokumentasi BroadNet tidak menyenaraikan tool calling untuk DeepSeek V4.1 Flash, jadi uji panggilan alatan ejen anda padanya sebelum bergantung pada pelan; tool calling yang didokumenkan bermaksud GLM 5.3 atau Qwen3.8 27B secara bayar ikut guna.