---
title: "Eval LLM là gì? Giải thích cách kiểm thử đầu ra model"
description: "Eval là bộ test lặp lại được, chấm điểm đầu ra của LLM theo tiêu chí của bạn. Cách xây dựng, cách chấm điểm và vì sao nên chạy nó trước khi đổi model."
url: https://broadrouter.com/vi/glossary/eval/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/glossary/eval/) (cập nhật ngày 2026-11-16).

# Eval (đánh giá LLM)

Cập nhật 2026-11-16

Eval (viết tắt của evaluation, đánh giá) là một bài kiểm thử lặp lại được cho model ngôn ngữ hoặc prompt: một tập input cố định, mô tả thế nào là đầu ra tốt, và một bộ chấm điểm (code, con người hoặc một model khác) chấm từng đầu ra để có thể so sánh các phiên bản.

Còn gọi là: eval là gì, evals, đánh giá LLM, đánh giá model, kiểm thử LLM, bộ eval, LLM evaluation, model evaluation, LLM testing, eval set

Eval là unit test cho prompt và model: cùng input mỗi lần, ngưỡng đạt rõ ràng và một điểm số có thể so sánh.

## Cách hoạt động

Một eval gồm ba phần:

1.  **Case.** Input lấy từ sử dụng thật, kèm các trường hợp biên. Hướng dẫn của Anthropic liệt kê ví dụ như input không liên quan, input quá dài và các case mơ hồ “where even humans would find it hard to reach an assessment consensus.” (Bản dịch: mà ngay cả con người cũng khó đạt đồng thuận khi đánh giá.)
2.  **Tiêu chí.** Thế nào là câu trả lời tốt: một giá trị chính xác, một trường bắt buộc, một giọng điệu, một dữ kiện phải xuất hiện.
3.  **Bộ chấm điểm.** Thứ chấm điểm từng đầu ra.

| Bộ chấm | Phù hợp với | Điểm yếu |
| --- | --- | --- |
| Code (khớp chính xác, JSON Schema, regex) | Phân loại, trích xuất, [đầu ra có cấu trúc](https://broadrouter.com/vi/glossary/structured-output/) | Không đánh giá được văn bản mở |
| Con người | Sắc thái, giọng điệu, tác vụ mới | Chậm và tốn kém |
| Model ([LLM-as-judge](https://broadrouter.com/vi/glossary/llm-as-judge/)) | Câu trả lời mở ở quy mô lớn | Có thiên lệch riêng |

Anthropic khuyên tự động hóa khi có thể và nói “Prioritize volume over quality” (Bản dịch: Ưu tiên số lượng hơn chất lượng): nhiều case với chấm tự động hơi nhiễu tốt hơn vài case chấm tay. Họ cũng gợi ý chấm điểm bằng một model khác với model đã tạo ra đầu ra.

## Vì sao quan trọng

-   **Đổi model hoặc nhà cung cấp.** Benchmark công khai hiếm khi khớp với tác vụ của bạn. Ngay cả với model embedding, benchmark MTEB cũng thấy “no particular text embedding method dominates across all tasks.” (Bản dịch: không có phương pháp text embedding nào vượt trội trên mọi tác vụ.) Eval của riêng bạn là phép so sánh đáng tin cậy duy nhất. Xem [cách đánh giá LLM trước khi chuyển đổi](https://broadrouter.com/vi/blog/evaluate-llm-before-switching/).
-   **Thay đổi prompt.** Sửa một case thường làm hỏng case khác. Hãy chạy lại toàn bộ bộ test sau mỗi lần sửa prompt.
-   **Đánh đổi chi phí.** Eval cho thấy một model rẻ hơn có đủ tốt cho một bước cụ thể hay không, bằng con số thay vì cảm nhận.
-   **An toàn.** Hãy thêm case cho [ảo giác](https://broadrouter.com/vi/glossary/hallucination/), từ chối và các lần thử injection, không chỉ cho luồng suôn sẻ.

## Trên BroadNet Inference

Tài liệu BroadNet không liệt kê sản phẩm eval nào. Hãy chạy bộ eval từ code của bạn tới endpoint tương thích OpenAI, chỉ đổi model ID để so sánh các model. Model suy luận tính phần suy luận vào `max_tokens`, nên hãy chừa đủ chỗ, nếu không một case có thể thất bại vì câu trả lời rỗng chứ không phải câu trả lời sai. Bài [GLM 5.3 vs DeepSeek V4.1 Flash](https://broadrouter.com/vi/blog/glm-5-3-vs-deepseek-v4-1-flash/) là một ví dụ so sánh cụ thể.

## Câu hỏi thường gặp

### Eval khác benchmark thế nào?

Benchmark là bộ test công khai dùng để so sánh các model nói chung. Eval thường là bộ của riêng bạn, xây từ tác vụ thật, và cho biết model làm tốt đến đâu trên sản phẩm của bạn.

### Một bộ eval cần bao nhiêu test case?

Không có con số cố định. Hướng dẫn của Anthropic ưu tiên nhiều case chấm tự động hơn vài case chấm tay; hãy bắt đầu với vài chục case lấy từ traffic thật và bổ sung khi phát hiện lỗi.

### Có nên đặt temperature bằng 0 khi chạy eval không?

Hãy dùng đúng thiết lập bạn sẽ chạy ở production. Nếu đầu ra thay đổi giữa các lần chạy, hãy chấm mỗi case vài lần và so sánh trung bình thay vì kết quả đơn lẻ.

## Xem thêm

-   [LLM-as-a-judge (LLM làm giám khảo)](https://broadrouter.com/vi/glossary/llm-as-judge/) (thuật ngữ)
-   [Ảo giác AI (hallucination)](https://broadrouter.com/vi/glossary/hallucination/) (thuật ngữ)
-   [Đầu ra có cấu trúc (structured output)](https://broadrouter.com/vi/glossary/structured-output/) (thuật ngữ)
-   [Temperature (nhiệt độ)](https://broadrouter.com/vi/glossary/temperature/) (thuật ngữ)
-   [Guardrails (lớp bảo vệ cho LLM)](https://broadrouter.com/vi/glossary/guardrails/) (thuật ngữ)
-   [Benchmark LLM (LLM benchmark)](https://broadrouter.com/vi/glossary/llm-benchmark/) (thuật ngữ)
-   [Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/) (hướng dẫn)
-   [Cách đánh giá LLM trước khi đổi nhà cung cấp](https://broadrouter.com/vi/blog/evaluate-llm-before-switching/) (bài viết)
-   [Chuyển sang API tương thích OpenAI: checklist khi chuyển đổi](https://broadrouter.com/vi/blog/openai-compatible-api-migration-checklist/) (bài viết)
-   [GLM 5.3 và DeepSeek V4.1 Flash: nên dùng model nào, khi nào](https://broadrouter.com/vi/blog/glm-5-3-vs-deepseek-v4-1-flash/) (bài viết)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-eval&utm_content=page-cta) ·

**Nguồn**

-   [Anthropic, xác định tiêu chí thành công và xây dựng bài đánh giá (phát triển test) (kiểm tra ngày 2026-11-16)](https://platform.claude.com/docs/en/test-and-evaluate/develop-tests)
-   [Zheng và cộng sự, Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena (arXiv) (kiểm tra ngày 2026-11-16)](https://arxiv.org/abs/2306.05685)
-   [Muennighoff và cộng sự, MTEB: Massive Text Embedding Benchmark (arXiv) (kiểm tra ngày 2026-11-16)](https://arxiv.org/abs/2210.07316)
