BroadRouter
Mulakan

Mod JSON (JSON mode)

Dikemas kini

Mod JSON ialah tetapan API LLM, response_format {"type": "json_object"} dalam API gaya OpenAI, yang menjadikan jawapan model JSON yang sah dan boleh dihurai. Tidak seperti structured outputs dengan JSON Schema, ia tidak menjamin kunci, jenis atau nilai yang terkandung dalam objek itu.

Juga dikenali sebagai: mod JSON, output JSON LLM, JSON mode, json_object, JSON output mode, JSON response mode

Mod JSON menjawab satu soalan: adakah json.loads() akan berjaya? Ia tidak menjawab soalan kedua: adakah ini objek yang dijangka oleh kod saya?

Cara ia berfungsi

Dalam Chat Completions API, anda menghidupkannya dengan satu medan:

{"response_format": {"type": "json_object"},
 "messages": [
   {"role": "system", "content": "Return JSON with keys name and email."},
   {"role": "user", "content": "Reach me at Sara, sara@example.com"}]}

Rujukan API OpenAI memanggilnya “the older JSON mode, which ensures the message the model generates is valid JSON.” (Terjemahan BroadRouter: “mod JSON yang lebih lama, yang memastikan mesej yang dijana model ialah JSON yang sah.”) Dua peraturan datang bersamanya. Anda mesti meminta JSON dalam mesej: panduan OpenAI menyatakan API itu “will throw an error if the string ‘JSON’ does not appear somewhere in the context.” (Terjemahan BroadRouter: “akan memulangkan ralat jika rentetan ‘JSON’ tidak muncul di mana-mana dalam konteks.”) Dan bentuknya terserah kepada model. Panduan itu menyatakan mod JSON “will not guarantee the output matches any specific schema.” (Terjemahan BroadRouter: “tidak akan menjamin output sepadan dengan mana-mana skema tertentu.”)

Output berstruktur ialah pilihan yang lebih ketat. Ia menghantar JSON Schema dengan {"type": "json_schema", ...}, dan model dikekang kepadanya.

Mod JSON (json_object) Structured outputs (json_schema)
JSON yang sah ya ya
Kunci dan jenis wajib tidak ya
Anda membekalkan skema tidak ya
Mesti menyebut “JSON” dalam prompt ya (OpenAI) tidak

OpenAI mengesyorkan “always using Structured Outputs instead of JSON mode when possible.” (Terjemahan BroadRouter: “sentiasa menggunakan Structured Outputs dan bukannya mod JSON apabila boleh.”)

Mengapa ia penting

  • Pengesahan masih tanggungjawab anda. Dengan mod JSON, kunci yang hilang atau nombor yang dihantar sebagai rentetan masih boleh dihurai dan hanya gagal kemudian. Sahkan terhadap skema dalam kod.
  • Pemotongan. Jika jawapan mencapai max_tokens, JSON itu tidak lengkap. Model penaakulan lebih terdedah, kerana pemikiran menggunakan bajet yang sama.
  • Sandaran. Panduan OpenAI menyenaraikan mod JSON pada model lama yang tidak mempunyai json_schema. Sokongan berbeza mengikut penyedia dan model, jadi mod JSON bersama pengesahan anda sendiri ialah sandaran apabila skema tidak diterima.

Di BroadNet Inference

Rujukan API BroadNet menyenaraikan output berstruktur untuk GLM 5.3 dan Qwen3.8 27B. Ia tidak menyatakan sama ada json_object atau json_schema ialah response_format yang disokong, atau sama ada DeepSeek V4.1 Flash dan BroadNet Gemma 4 VL 26B menerima salah satunya. Uji kedua-duanya pada model anda. Untuk menulis skema, gunakan penjana JSON Schema. Artikel JSON mode vs json_schema merangkumi pembaikan dan pemantauan, dan panduan invois menunjukkan pengekstrakan JSON daripada imej.

Soalan lazim

Adakah mod JSON sama dengan structured outputs?

Tidak. Panduan OpenAI menyatakan kedua-duanya menghasilkan JSON yang sah, tetapi hanya Structured Outputs memastikan skema dipatuhi. Mod JSON boleh memulangkan apa-apa objek yang sah.

Mengapa mod JSON memulangkan ralat tentang perkataan JSON?

OpenAI mewajibkan arahan untuk menghasilkan JSON di mana-mana dalam mesej, dan memulangkan ralat jika rentetan "JSON" tidak muncul dalam konteks.

Bolehkah mod JSON masih memulangkan JSON yang rosak?

Ya, jika jawapan terpotong oleh max_tokens atau had konteks. Semak finish_reason sebelum menghurai.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity