JSON mode menjawab satu pertanyaan: apakah json.loads() akan berhasil? Ia tidak menjawab pertanyaan kedua: apakah ini objek yang diharapkan kode saya?
Cara kerjanya
Di Chat Completions API, Anda mengaktifkannya dengan satu field:
{"response_format": {"type": "json_object"},
"messages": [
{"role": "system", "content": "Return JSON with keys name and email."},
{"role": "user", "content": "Reach me at Sara, sara@example.com"}]}
Referensi API OpenAI menyebutnya “the older JSON mode, which ensures the message the model generates is valid JSON.” (terjemahan: JSON mode versi lama, yang memastikan pesan yang dihasilkan model adalah JSON valid.) Ada dua aturan yang menyertainya. Anda harus meminta JSON di sebuah pesan: panduan OpenAI menyebutkan API “will throw an error if the string ‘JSON’ does not appear somewhere in the context.” (terjemahan: akan memunculkan error jika string ‘JSON’ tidak muncul di mana pun dalam konteks.) Dan bentuknya diserahkan pada model. Panduan itu menyatakan JSON mode “will not guarantee the output matches any specific schema.” (terjemahan: tidak menjamin output cocok dengan skema tertentu.)
Output terstruktur adalah opsi yang lebih ketat. Opsi ini mengirim JSON Schema dengan {"type": "json_schema", ...}, dan model dibatasi mengikutinya.
JSON mode (json_object) |
Structured outputs (json_schema) |
|
|---|---|---|
| JSON valid | ya | ya |
| Key dan tipe wajib | tidak | ya |
| Anda menyediakan skema | tidak | ya |
| Wajib menyebut “JSON” di prompt | ya (OpenAI) | tidak |
OpenAI merekomendasikan “always using Structured Outputs instead of JSON mode when possible.” (terjemahan: selalu memakai Structured Outputs alih-alih JSON mode bila memungkinkan.)
Kenapa ini penting
- Validasi tetap tugas Anda. Dengan JSON mode, key yang hilang atau angka yang dikirim sebagai string tetap lolos parsing lalu gagal belakangan. Validasi terhadap skema di kode.
- Pemotongan. Jika balasan mencapai
max_tokens, JSON-nya tidak lengkap. Model penalaran lebih rentan, karena proses berpikir memakai anggaran yang sama. - Cadangan. Panduan OpenAI mencantumkan JSON mode pada model lama yang belum mendukung
json_schema. Dukungan berbeda per penyedia dan model, jadi JSON mode plus validasi Anda sendiri menjadi cadangan saat skema tidak diterima.
Di BroadNet Inference
Referensi API BroadNet mencantumkan output terstruktur untuk GLM 5.3 dan Qwen3.8 27B. Referensi itu tidak menyebutkan apakah response_format yang didukung adalah json_object atau json_schema, atau apakah DeepSeek V4.1 Flash dan BroadNet Gemma 4 VL 26B menerima salah satunya. Uji keduanya di model Anda. Untuk menulis skema, gunakan generator JSON Schema. Artikel JSON mode vs json_schema membahas perbaikan dan pemantauan, dan panduan faktur menunjukkan ekstraksi JSON dari gambar.