BroadRouter
Mulai

Output terstruktur (structured output)

Diperbarui

Output terstruktur adalah fitur API LLM yang membatasi balasan model pada format yang ditentukan developer, biasanya JSON Schema, agar kode bisa mem-parse-nya dengan andal. Fitur ini lebih ketat daripada JSON mode, yang menjamin JSON valid tetapi tidak menjamin bentuk tertentu.

Disebut juga: output terstruktur, structured output, structured outputs, output JSON schema, JSON schema output, JSON mode, response_format

Kode memerlukan input yang bisa diprediksi. Output terstruktur mengubah teks bebas dari model menjadi data yang bisa dipercaya program Anda.

Cara kerjanya

Ada tiga tingkat kontrol:

Metode Yang Anda dapatkan
Meminta lewat prompt Biasanya JSON, kadang dengan teks tambahan atau field yang hilang
JSON mode JSON valid, bentuk apa pun
Output terstruktur dengan skema JSON yang sesuai skema Anda

Dalam format OpenAI, JSON mode adalah response_format: {"type": "json_object"}. Output terstruktur mengirimkan skema:

"response_format": {
  "type": "json_schema",
  "json_schema": {
    "name": "invoice",
    "strict": true,
    "schema": {
      "type": "object",
      "properties": {
        "vendor": { "type": "string" },
        "total": { "type": "number" }
      },
      "required": ["vendor", "total"],
      "additionalProperties": false
    }
  }
}

Referensi OpenAI menyebut tipe json_schema “ensures the model will match your supplied JSON schema” (terjemahan: memastikan model akan sesuai dengan JSON schema yang Anda berikan). Banyak penyedia melakukannya dengan constrained decoding: membatasi token mana yang boleh dihasilkan model di setiap langkah, sehingga output yang melanggar skema tidak mungkin dihasilkan.

Kenapa ini penting

  • Lebih sedikit error parsing. Pipeline ekstraksi, classifier, dan agen bisa membaca field secara langsung.
  • Prompt lebih sederhana. Skema menggantikan instruksi format yang panjang.
  • Bukan jaminan penuh. Panduan OpenAI menyebut aplikasi Anda tetap harus menangani penolakan, respons yang tidak lengkap, dan error. Balasan yang terpotong oleh max_tokens adalah JSON rusak, apa pun isi skemanya.

Dukungannya berbeda-beda di antara API kompatibel OpenAI. Sebagian hanya menerima json_schema, sebagian hanya json_object, dan sebagian mengabaikan field tersebut. Periksa dulu sebelum mengandalkannya.

Di BroadNet Inference

Dokumentasi BroadNet mencantumkan output terstruktur untuk GLM 5.3 dan Qwen3.8 27B. Dokumentasinya tidak menyebut nama parameter permintaannya, jadi uji response_format pada model Anda, dan tetap gunakan parser JSON dengan penanganan error. Validator output JSON LLM menunjukkan di mana balasan rusak dan memeriksanya terhadap skema Anda. Kedua model bernalar terlebih dahulu, jadi beri ruang di max_tokens untuk proses berpikir ditambah JSON-nya.

Output terstruktur cocok dipadukan dengan model visi. Panduan faktur berbahasa Arab mengirim gambar dan meminta field-nya dalam bentuk JSON. Untuk tindakan alih-alih jawaban, gunakan tool calling.

Kesalahan umum

  • Lupa additionalProperties: false, atau tidak mencantumkan setiap field di required, saat memakai strict mode.
  • Tidak memeriksa finish_reason sebelum mem-parse.

Pertanyaan umum

Apa bedanya JSON mode dan output terstruktur?

JSON mode hanya menjanjikan bahwa balasan bisa di-parse sebagai JSON. Output terstruktur dengan skema juga menjanjikan field, tipe, dan key wajib yang Anda tentukan. Panduan OpenAI menyebut hanya Structured Outputs yang memastikan kepatuhan pada skema.

Apakah output masih perlu divalidasi?

Ya. Balasan tetap bisa berupa penolakan atau terpotong oleh max_tokens, dan skema tidak bisa menyatakan setiap aturan bisnis, misalnya total yang harus sama dengan jumlah item baris.

Sebaiknya pakai output terstruktur atau tool calling?

Pakai output terstruktur jika Anda ingin jawaban akhir dalam bentuk yang tetap. Pakai tool calling jika model perlu meminta kode Anda melakukan sesuatu lalu melanjutkan.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity