Cho xem thì hiệu quả hơn giải thích. Vài ví dụ thường chỉnh định dạng và giọng điệu nhanh hơn cả một đoạn quy tắc.
Cách hoạt động
Bài báo GPT-3 của Brown và cộng sự đã làm thuật ngữ này phổ biến. Bài báo thử một model 175 tỷ tham số với các tác vụ “specified purely via text interaction with the model” (Bản dịch: được chỉ định hoàn toàn qua tương tác văn bản với model), không cập nhật gradient hay fine-tuning, và thấy hiệu năng few-shot tăng mạnh theo kích thước model. Bài báo định nghĩa ba thiết lập:
| Thiết lập | Ví dụ trong prompt |
|---|---|
| Zero-shot | không có, chỉ có chỉ dẫn |
| One-shot | một |
| Few-shot | vài ví dụ, giới hạn bởi context window |
Một prompt few-shot để gắn nhãn ticket hỗ trợ có thể trông như sau:
Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->
Model sẽ tiếp tục theo khuôn mẫu. Hướng dẫn của Anthropic gọi ví dụ là “one of the most reliable ways to steer” (Bản dịch: một trong những cách đáng tin cậy nhất để điều hướng) định dạng, giọng điệu và cấu trúc, và yêu cầu ví dụ phải liên quan, đa dạng và được bọc trong thẻ để model phân biệt được chúng với chỉ dẫn.
Vì sao quan trọng
- Kiểm soát định dạng. Ví dụ cho thấy những trường hợp biên mà quy tắc bỏ sót, chẳng hạn cách ghi một trường rỗng. Với JSON nghiêm ngặt, hãy kết hợp với đầu ra có cấu trúc.
- Chi phí. Mỗi ví dụ được gửi lại làm input ở mỗi lần gọi. Năm ví dụ 200 token thêm 1.000 token cho mỗi request. Đặt trong một prefix cố định, chúng có thể được tính giá như token đầu vào từ cache.
- Suy luận. Ví dụ cho thấy các bước, không chỉ đáp án, chính là prompting chain-of-thought.
- Khi nào nên dừng. Nếu bạn cần hàng trăm ví dụ, fine-tuning có thể rẻ hơn mỗi lần gọi so với việc gửi chúng mọi lúc.
Trên BroadNet Inference
Few-shot prompting không cần tính năng API đặc biệt nào; nó chỉ là văn bản thường trong messages. BroadNet báo cáo cached_tokens trong usage, nên bạn có thể kiểm tra khối ví dụ của mình có được đọc từ cache hay không. Với key trả theo mức dùng (PAYG), giá cache thấp hơn giá input; trên DeepSeek V4.1 Flash là $0.0055 so với $0.175 mỗi 1 triệu token. Với tác vụ tiếng Ả Rập, xem prompt engineering cho tiếng Ả Rập, và để trích xuất tài liệu có dùng ví dụ, xem hướng dẫn hóa đơn tiếng Ả Rập.
Lỗi thường gặp
- Dùng các ví dụ có cùng một nhãn hoặc cùng độ dài. Model sẽ chép luôn thiên lệch đó.
- Đổi ví dụ theo từng request. Việc này làm vỡ prefix đã cache và khiến kết quả khó so sánh hơn.