BroadRouter

Ảo giác AI (hallucination)

Cập nhật

Ảo giác (hallucination) là đầu ra của model ngôn ngữ nghe hợp lý nhưng sai, bịa đặt hoặc không được đầu vào hỗ trợ, như trích dẫn bịa, con số sai hay API không tồn tại. Nó xuất phát từ việc model dự đoán văn bản khả dĩ thay vì kiểm chứng sự thật.

Còn gọi là: ảo giác, ảo giác AI, AI bịa đặt, LLM hallucination, hallucination là gì, AI hallucination, confabulation

Một ảo giác đọc lên y hệt một câu trả lời đúng. Chính điều đó khiến nó gây tốn kém.

Cách hoạt động

Model ngôn ngữ viết những token tiếp theo hợp lý nhất dựa trên quá trình huấn luyện và prompt. Không có bước nào trong vòng lặp đó đối chiếu một sự kiện với thế giới thực. Khi model không có câu trả lời, một câu trả lời trông hợp lý vẫn luôn sẵn đó.

Kalai và cộng sự, trong một bài báo năm 2025, cho rằng ảo giác vẫn tồn tại vì “training and evaluation procedures reward guessing over acknowledging uncertainty.” (Bản dịch: quy trình huấn luyện và đánh giá thưởng cho việc đoán hơn là thừa nhận không chắc chắn). Phần lớn benchmark cho điểm khi đoán đúng và không cho gì khi bỏ qua, nên model được tinh chỉnh để giỏi làm bài thi. Họ cũng truy nguyên lỗi về một nguồn thống kê: nếu model không phân biệt được một cách tin cậy phát biểu đúng và sai, quá trình tiền huấn luyện sẽ sinh ra phát biểu sai.

Các dạng thường gặp khi làm việc với API:

  • trích dẫn, URL hoặc lời nói bịa đặt;
  • con số sai trong bản tóm tắt một tài liệu đúng;
  • phương thức hoặc tham số API không tồn tại;
  • câu trả lời cho câu hỏi mà context được cung cấp không đề cập.

Vì sao quan trọng

Thiệt hại nằm ở phía sau: một bot hỗ trợ bịa ra chính sách hoàn tiền, một báo cáo có tổng sai, đoạn code gọi một hàm không tồn tại. So với điều đó, các cách khắc phục khá rẻ:

  • Dựa vào nguồn. Đưa văn bản gốc vào prompt hoặc truy xuất bằng RAG. Lewis và cộng sự nhận thấy retrieval-augmented generation “factual” (Bản dịch: đúng sự thật) hơn một baseline chỉ dùng tham số. Xem grounding.
  • Cho phép nói “tôi không biết”. Anthropic coi việc cho phép rõ ràng thừa nhận không chắc chắn là bước cơ bản.
  • Yêu cầu trích dẫn rồi kiểm chứng. Bắt model trích một câu làm căn cứ cho mỗi khẳng định và bỏ những khẳng định không có.
  • Đo lường. Xây một bộ eval có những câu hỏi mà context không chứa câu trả lời, và theo dõi tần suất model bịa ra một câu. Logprobs có thể đánh dấu các câu trả lời có độ tin cậy thấp khi API trả về chúng.
  • Kiểm tra bằng code. Tổng số, ngày tháng và ID kiểm chứng được mà không cần model.

Giảm temperature giúp với việc văn bản dài bị trôi, không giúp với lỗi tự tin.

Trên BroadNet Inference

Tài liệu BroadNet không công bố tỷ lệ ảo giác cho các model và không liệt kê tính năng guardrail hay kiểm chứng sự thật, nên các biện pháp kiểm soát này nằm trong ứng dụng của bạn. Context lớn giúp ích cho grounding: DeepSeek V4.1 Flash và GLM 5.3 nhận 1.048.576 token mỗi request, đủ để đưa vào toàn bộ tài liệu gốc. Với pipeline truy xuất tiếng Ả Rập, xem RAG cho tiếng Ả Rập; để đối chiếu các trường trích xuất với hình ảnh, xem hướng dẫn đọc hóa đơn.

Câu hỏi thường gặp

Vì sao LLM bị ảo giác?

Chúng được huấn luyện để tạo văn bản khả dĩ, và Kalai cùng cộng sự cho rằng quá trình huấn luyện và benchmark thưởng cho một phỏng đoán tự tin hơn là thừa nhận không chắc chắn. Một phỏng đoán có thể ghi điểm; “tôi không biết” thì không.

Có loại bỏ hoàn toàn ảo giác được không?

Không phương pháp nào loại bỏ hoàn toàn. Dựa câu trả lời vào tài liệu, cho phép nói “tôi không biết”, yêu cầu trích dẫn và kiểm tra bằng code sẽ làm giảm nó. Hướng dẫn của Anthropic nói các kỹ thuật này giảm ảo giác nhưng không xóa bỏ được.

Giảm temperature có chấm dứt ảo giác không?

Nó giảm lựa chọn từ ngẫu nhiên nhưng không giảm lỗi tự tin. Ở temperature 0, model vẫn có thể đưa cùng một câu trả lời sai mỗi lần.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity