Một prompt nói “trả lời bằng JSON” để cấu trúc cho may rủi. JSON Schema viết cấu trúc đó ra để máy có thể kiểm tra.
Cách hoạt động
Đặc tả có hai phần chính: Core, phần “defines the basic foundation of JSON Schema” (Bản dịch: định nghĩa nền tảng cơ bản của JSON Schema), và Validation, phần “defines the validation keywords” (Bản dịch: định nghĩa các keyword kiểm tra). Phiên bản hiện tại là 2020-12; phiên bản trước là 2019-09.
{
"type": "object",
"properties": {
"name": {"type": "string"},
"amount": {"type": "number", "minimum": 0},
"currency": {"type": "string", "enum": ["SAR", "AED", "USD"]},
"note": {"type": ["string", "null"]}
},
"required": ["name", "amount", "currency", "note"],
"additionalProperties": false
}
Các API LLM dùng schema ở hai chỗ. Định nghĩa tool đặt một schema trong parameters để mô tả đối số. Structured output gửi một schema trong response_format dưới dạng {"type": "json_schema", "json_schema": {...}}, mà OpenAI nói là “ensures the model will match your supplied JSON schema” (Bản dịch: đảm bảo model sẽ khớp với JSON schema bạn cung cấp).
Chế độ strict của OpenAI chỉ chấp nhận một tập con. Theo phần schema được hỗ trợ:
- Kiểu: string, number, boolean, integer, object, array, enum và anyOf.
- Gốc phải là object và không được dùng
anyOf. additionalProperties: falsevà mọi trường đều có trongrequired; muốn một trường là tùy chọn thì cho phépnull, nhưnoteở trên.- Tối đa 5000 thuộc tính object và 10 cấp lồng nhau, tổng cộng tối đa 1000 giá trị enum.
- Không hỗ trợ:
allOf,not,dependentRequired,dependentSchemas,if,then,else.
Vì sao quan trọng
- Kiểm tra. Chính schema dùng để dẫn dắt model cũng kiểm tra câu trả lời của nó trong code. Một lần kiểm tra thất bại cho ra lỗi chính xác để gửi ngược lại.
- Tính di động. Một schema viết theo tập con strict chạy được ở nhiều nhà cung cấp hơn schema dùng mọi keyword.
- Token. Schema trong định nghĩa tool được gửi làm đầu vào ở mọi request. Mô tả dài tốn token ở mỗi lượt.
Trên BroadNet Inference
Tài liệu tham chiếu API của BroadNet ghi tool calling và structured output cho GLM 5.3 và Qwen3.8 27B, nhưng không ghi keyword schema nào được áp dụng. Hãy giữ schema trong tập con đơn giản ở trên và kiểm tra mọi câu trả lời. Tạo schema bằng công cụ tạo JSON Schema, kiểm tra câu trả lời bằng công cụ kiểm tra đầu ra JSON của LLM, và xem bài viết về structured output để có ví dụ đầy đủ. Với các model khác, yêu cầu JSON trong prompt và kiểm tra câu trả lời; JSON mode không được BroadNet ghi trong tài liệu, nên hãy thử trước khi dựa vào nó.
Lỗi thường gặp
- Dùng
allOfhoặc keyword điều kiện rồi mặc định server sẽ áp dụng chúng. - Ở chế độ strict, làm trường thành tùy chọn bằng cách bỏ nó khỏi
required, thay vì cho phépnull.