BroadRouter

Few-shot prompting (prompt kèm ví dụ)

Cập nhật

Few-shot prompting là kỹ thuật trong đó prompt chứa một số ít ví dụ input-output mẫu trước input thật, để model ngôn ngữ suy ra tác vụ và định dạng từ đó. Trọng số của model không thay đổi; zero-shot không dùng ví dụ nào và one-shot dùng một ví dụ.

Còn gọi là: few-shot prompting là gì, few-shot là gì, prompt kèm ví dụ, học từ vài ví dụ, zero-shot, one-shot, few-shot learning, multishot prompting, in-context examples, one-shot prompting

Cho xem thì hiệu quả hơn giải thích. Vài ví dụ thường chỉnh định dạng và giọng điệu nhanh hơn cả một đoạn quy tắc.

Cách hoạt động

Bài báo GPT-3 của Brown và cộng sự đã làm thuật ngữ này phổ biến. Bài báo thử một model 175 tỷ tham số với các tác vụ “specified purely via text interaction with the model” (Bản dịch: được chỉ định hoàn toàn qua tương tác văn bản với model), không cập nhật gradient hay fine-tuning, và thấy hiệu năng few-shot tăng mạnh theo kích thước model. Bài báo định nghĩa ba thiết lập:

Thiết lập Ví dụ trong prompt
Zero-shot không có, chỉ có chỉ dẫn
One-shot một
Few-shot vài ví dụ, giới hạn bởi context window

Một prompt few-shot để gắn nhãn ticket hỗ trợ có thể trông như sau:

Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->

Model sẽ tiếp tục theo khuôn mẫu. Hướng dẫn của Anthropic gọi ví dụ là “one of the most reliable ways to steer” (Bản dịch: một trong những cách đáng tin cậy nhất để điều hướng) định dạng, giọng điệu và cấu trúc, và yêu cầu ví dụ phải liên quan, đa dạng và được bọc trong thẻ để model phân biệt được chúng với chỉ dẫn.

Vì sao quan trọng

  • Kiểm soát định dạng. Ví dụ cho thấy những trường hợp biên mà quy tắc bỏ sót, chẳng hạn cách ghi một trường rỗng. Với JSON nghiêm ngặt, hãy kết hợp với đầu ra có cấu trúc.
  • Chi phí. Mỗi ví dụ được gửi lại làm input ở mỗi lần gọi. Năm ví dụ 200 token thêm 1.000 token cho mỗi request. Đặt trong một prefix cố định, chúng có thể được tính giá như token đầu vào từ cache.
  • Suy luận. Ví dụ cho thấy các bước, không chỉ đáp án, chính là prompting chain-of-thought.
  • Khi nào nên dừng. Nếu bạn cần hàng trăm ví dụ, fine-tuning có thể rẻ hơn mỗi lần gọi so với việc gửi chúng mọi lúc.

Trên BroadNet Inference

Few-shot prompting không cần tính năng API đặc biệt nào; nó chỉ là văn bản thường trong messages. BroadNet báo cáo cached_tokens trong usage, nên bạn có thể kiểm tra khối ví dụ của mình có được đọc từ cache hay không. Với key trả theo mức dùng (PAYG), giá cache thấp hơn giá input; trên DeepSeek V4.1 Flash là $0.0055 so với $0.175 mỗi 1 triệu token. Với tác vụ tiếng Ả Rập, xem prompt engineering cho tiếng Ả Rập, và để trích xuất tài liệu có dùng ví dụ, xem hướng dẫn hóa đơn tiếng Ả Rập.

Lỗi thường gặp

  • Dùng các ví dụ có cùng một nhãn hoặc cùng độ dài. Model sẽ chép luôn thiên lệch đó.
  • Đổi ví dụ theo từng request. Việc này làm vỡ prefix đã cache và khiến kết quả khó so sánh hơn.

Câu hỏi thường gặp

Một prompt few-shot nên có bao nhiêu ví dụ?

Anthropic gợi ý 3 đến 5 ví dụ để có kết quả tốt nhất. Thêm ví dụ thì tốn thêm token input ở mỗi lần gọi, nên hãy dừng khi chất lượng không còn cải thiện.

Few-shot prompting có giống fine-tuning không?

Không. Ví dụ few-shot nằm trong prompt và được gửi lại ở mỗi request. Fine-tuning thay đổi trọng số model một lần, nên không cần gửi ví dụ nữa.

Nên đặt ví dụ trong system prompt hay dưới dạng các lượt chat?

Cách nào cũng được. Hãy giữ chúng ở một vị trí cố định gần đầu để tạo thành phần prefix ổn định, có thể cache.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity