BroadRouter
Bắt đầu

Grounding (neo câu trả lời vào nguồn)

Cập nhật

Grounding là cách kết nối đầu ra của model ngôn ngữ với các nguồn thông tin cụ thể, kiểm chứng được, như tài liệu, kết quả tìm kiếm hay bản ghi cơ sở dữ liệu, và yêu cầu model trả lời dựa trên đó. Câu trả lời có grounding truy được về nguồn và ít dữ kiện bịa đặt hơn.

Còn gọi là: grounding là gì, grounding LLM, neo vào nguồn, trả lời dựa trên nguồn, grounded generation, source grounding, grounded answers

Model không có grounding trả lời theo trí nhớ. Model có grounding trả lời theo trang tài liệu ngay trước mặt nó.

Cách hoạt động

Tài liệu Vertex AI của Google định nghĩa grounding là “the ability to connect model output to verifiable sources of information.” (Bản dịch: khả năng kết nối đầu ra của model với các nguồn thông tin kiểm chứng được.) Nguồn có thể là tìm kiếm web, tài liệu của bạn, dịch vụ bản đồ hoặc cơ sở dữ liệu. Dù nguồn là gì, khuôn mẫu đều gồm ba phần:

  1. Lấy bằng chứng cho câu hỏi: các đoạn đã truy xuất, cả một file, ảnh một hóa đơn, các dòng từ SQL.
  2. Đưa vào prompt cùng chỉ dẫn chỉ trả lời dựa trên đó.
  3. Làm cho câu trả lời kiểm chứng được bằng trích dẫn, dấu dẫn nguồn hoặc liên kết về nguồn.

Retrieval-augmented generation là phương pháp nổi tiếng nhất. Lewis và cộng sự ghép một bộ sinh với một “dense vector index of Wikipedia” (Bản dịch: chỉ mục vector dày đặc của Wikipedia), truy cập qua một bộ truy xuất neural, và báo cáo câu trả lời cụ thể hơn, đúng sự thật hơn so với một model chỉ dựa vào tham số của nó. Việc xây dựng chỉ mục đó dùng embedding và thường cả cơ sở dữ liệu vector.

Một prompt có grounding tối giản:

Answer using only the policy below. Quote the sentence that supports your answer.
If the policy does not answer the question, reply "Not in the policy."

<policy>Refunds are available within 14 days of purchase.</policy>

Question: Can I get a refund after three weeks?

Một câu trả lời có grounding sẽ nói không và trích câu về 14 ngày. Một model không có grounding có thể đoán ra một chính sách 30 ngày nghe có vẻ bình thường.

Với input dài, Anthropic gợi ý bước trích dẫn trước: với tài liệu trên 20.000 token, cho model trích nguyên văn các câu liên quan, rồi chỉ trả lời dựa trên những trích dẫn đó.

Vì sao quan trọng

  • Ít dữ kiện bịa đặt hơn. Google liệt kê việc giảm ảo giác là lợi ích cốt lõi. Grounding là cách khắc phục trực tiếp nhất cho ảo giác về dữ liệu của chính bạn.
  • Thông tin mới. Trọng số model đóng băng tại thời điểm huấn luyện. Nguồn grounding có thể thay đổi hằng ngày mà không cần huấn luyện lại.
  • Khả năng kiểm toán. Một khẳng định có trích dẫn có thể được người hoặc code kiểm tra.
  • Đánh đổi chi phí. Bằng chứng là token input. Truy xuất năm đoạn rẻ hơn gửi cả cuốn hướng dẫn, nhưng có thể bỏ sót đúng đoạn quan trọng. Prompt rất dài cũng có nguy cơ gặp hiện tượng lost-in-the-middle.

Trên BroadNet Inference

Tài liệu BroadNet không liệt kê endpoint embedding, công cụ tìm kiếm hay tính năng dẫn nguồn, nên phần truy xuất chạy trong code của bạn. Thứ API mang lại là chỗ chứa bằng chứng: context window 1.048.576 token trên DeepSeek V4.1 Flash và GLM 5.3, 262.144 trên Qwen3.8 27B, và input hình ảnh trên các model mà mục tài liệu ghi là hỗ trợ hình ảnh hoặc vision. Điều đó biến “dán cả tài liệu” thành một lựa chọn thực tế; context dài so với RAG so sánh chi phí của từng cách, và hướng dẫn hóa đơn grounding việc trích xuất vào một ảnh scan.

Câu hỏi thường gặp

Grounding có giống RAG không?

RAG là một cách để grounding. Nó truy xuất các đoạn văn và thêm vào prompt. Bạn cũng có thể grounding bằng cách dán cả tài liệu, đính kèm ảnh, hoặc thêm kết quả tìm kiếm trực tiếp hay kết quả từ cơ sở dữ liệu.

Grounding có đảm bảo câu trả lời đúng không?

Không. Model vẫn có thể đọc sai hoặc phớt lờ nguồn. Hãy yêu cầu trích dẫn hoặc dẫn nguồn và kiểm tra từng trích dẫn có thật trong nguồn không.

Làm sao để LLM chỉ trả lời từ tài liệu của tôi?

Cung cấp tài liệu, bảo model chỉ dùng chúng, cho phép nó nói rằng câu trả lời không có trong đó, và yêu cầu một trích dẫn cho mỗi khẳng định.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity