Tool calling memungkinkan model meminta kode Anda menjalankan sebuah fungsi. tool_choice menentukan apakah itu opsional, wajib, atau dimatikan.
Cara kerjanya
Anda mengirim tools (nama fungsi, deskripsi, dan parameter JSON Schema) dan, jika perlu, tool_choice.
| Nilai OpenAI | Arti | Padanan Anthropic |
|---|---|---|
"auto" |
Model memilih membalas dengan pesan atau satu call atau lebih; default jika ada tool | {"type": "auto"} |
"required" |
“The model must call one or more tools” (terjemahan: model wajib memanggil satu tool atau lebih) | {"type": "any"} |
{"type": "function", "function": {"name": "get_weather"}} |
Memaksa satu tool itu | {"type": "tool", "name": "get_weather"} |
"none" |
Tanpa tool call; default jika tidak ada tool | {"type": "none"} |
Panduan function calling OpenAI juga menjelaskan opsi allowed-tools yang membatasi call ke sebagian tool sambil tetap mempertahankan daftar tool lengkap, yang disarankan untuk prompt caching.
{"model": "broadnet/glm-5.3",
"messages": [{"role": "user", "content": "Weather in Riyadh?"}],
"tools": [{"type": "function", "function": {"name": "get_weather",
"parameters": {"type": "object", "properties": {"city": {"type": "string"}},
"required": ["city"]}}}],
"tool_choice": {"type": "function", "function": {"name": "get_weather"}}}
Dokumentasi Anthropic mencatat bahwa dengan any atau tool, API melakukan prefill pada balasan sehingga model tidak menulis teks apa pun sebelum call, dan beberapa model Claude menolak penggunaan tool yang dipaksa dan mengembalikan error 400.
Mengapa penting
- Pipeline yang andal. Langkah ekstraksi yang harus berakhir dengan call tidak boleh mendapat balasan teks yang bertele-tele. Memaksa call menghilangkan cabang itu.
- Giliran yang aman. Mengatur
nonedi giliran ringkasan terakhir mencegah model memulai putaran tool baru, sambil tetap memakai daftar tool yang sama. - Caching. Anthropic menyebut mengubah
tool_choicemembatalkan blok pesan yang sudah di-cache, jadi usahakan nilainya tetap stabil antar-giliran.
Di BroadNet Inference
Referensi API BroadNet mendokumentasikan tool calling hanya untuk GLM 5.3 dan Qwen3.8 27B, dan tidak mendokumentasikan tool_choice. Uji setiap nilai yang ingin Anda pakai: kirim required atau nama fungsi tertentu, lalu pastikan balasannya berisi tool_calls. Jika pemaksaan tidak bekerja sesuai harapan, pakai auto dengan instruksi yang jelas lalu validasi hasilnya, atau pakai output terstruktur di model yang sama. Artikel tool calling dengan model open berisi loop validasi dan retry.
Kesalahan umum
- Memaksa tool di setiap giliran loop agen, sehingga agen tidak pernah bisa memberi jawaban akhir.
- Mengira
requiredberarti tool tertentu. Artinya tool apa saja.