BroadRouter

Prompt engineering (kỹ thuật viết prompt)

Cập nhật

Prompt engineering là quá trình viết, sắp xếp và kiểm thử chỉ dẫn đưa cho model ngôn ngữ để nó luôn tạo ra đầu ra đáp ứng yêu cầu. Nó bao gồm message vai trò, chỉ dẫn rõ ràng, ví dụ, định dạng và đo kết quả bằng các test case.

Còn gọi là: kỹ thuật viết prompt, kỹ thuật prompt, thiết kế prompt, prompt engineering là gì, prompt design, prompting techniques

Một prompt là một bản đặc tả. Prompt engineering là viết bản đặc tả đó cho tốt và kiểm tra model có làm theo hay không.

Cách hoạt động

Hướng dẫn của OpenAI định nghĩa prompt engineering là “the process of writing effective instructions for a model” (Bản dịch: quá trình viết chỉ dẫn hiệu quả cho model) để nó “consistently generates content that meets your requirements.” (Bản dịch: luôn tạo ra nội dung đáp ứng yêu cầu của bạn). Các kỹ thuật cốt lõi giống nhau giữa các nhà cung cấp:

Kỹ thuật Cách làm
Vai trò Đặt quy tắc trong system prompt (hoặc developer message) và yêu cầu trong user message
Cấu trúc Sắp xếp system prompt theo thứ tự danh tính, chỉ dẫn, ví dụ, context; dùng tiêu đề Markdown và thẻ XML để đánh dấu các phần
Ví dụ Thêm vài cặp đầu vào và đầu ra (few-shot prompting) bao quát các trường hợp khác nhau
Suy luận Yêu cầu suy nghĩ từng bước (chain of thought), hoặc dùng model suy luận
Định dạng đầu ra Yêu cầu một định dạng cố định, hoặc dùng đầu ra có cấu trúc nếu API hỗ trợ
Ổn định Cố định phiên bản model để hành vi không tự thay đổi

Phần tổng quan của Anthropic khuyên bắt đầu với ba thứ: tiêu chí thành công rõ ràng, cách kiểm thử theo tiêu chí đó, và một bản nháp prompt đầu tiên. Trên thực tế, điều đó nghĩa là một bộ eval.

Một ví dụ ngắn, trước và sau:

Before: Summarize this ticket.

After:  You summarize support tickets for an engineering team.
        Write 3 bullet points: the problem, the customer impact, the next step.
        Use the customer's words for error messages. Do not guess at causes.
        <ticket>...</ticket>

Bản “After” giao vai trò tóm tắt ticket cho đội kỹ thuật, yêu cầu ba gạch đầu dòng (vấn đề, ảnh hưởng tới khách hàng, bước tiếp theo), giữ nguyên lời khách hàng cho thông báo lỗi và không đoán nguyên nhân.

Với agent, prompt chỉ là một phần của context lớn hơn. Bài viết về context engineering của Anthropic tách prompt engineering, tức “methods for writing and organizing LLM instructions,” (Bản dịch: phương pháp viết và sắp xếp chỉ dẫn cho LLM) khỏi context engineering, phần quản lý mọi thứ khác mà model nhìn thấy.

Vì sao quan trọng

  • Chất lượng mà không cần huấn luyện. Một prompt tốt hơn là cách sửa rẻ nhất để thử, trước khi fine-tuning hoặc dùng model lớn hơn.
  • Chi phí. System prompt được gửi lại trong mọi request. Hãy cắt những gì không làm thay đổi đầu ra; xem giảm token trong prompt.
  • Chuyển đổi model. Một prompt tinh chỉnh cho model này có thể hoạt động khác trên model khác. Hãy chạy lại bộ eval khi đổi model.

Trên BroadNet Inference

Các model chat của BroadNet nhận danh sách messages chuẩn của Chat Completions, nên vai trò system, user, assistant và ví dụ few-shot hoạt động như bình thường. Bạn có thể thử prompt trong playground trước khi viết code. Với đầu ra tiếng Ả Rập, bài prompt engineering cho tiếng Ả Rập đề cập văn phong, phương ngữ, chữ số và định dạng từ phải sang trái.

Đầu ra có cấu trúc được ghi trong tài liệu cho GLM 5.3 và Qwen3.8 27B. Trên DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B, suy luận được tính vào max_tokens, nên prompt kiểu “hãy suy nghĩ từng bước” cũng cần chỗ trong ngân sách.

Câu hỏi thường gặp

Với các model mới, prompt engineering có còn cần không?

Có, dù các mẹo đã khác. Model mới làm theo chỉ dẫn đơn giản, cụ thể khá tốt, nên phần lớn công việc là nêu yêu cầu rõ ràng, đưa ví dụ và kiểm thử với đầu vào thật.

Khi nào nên fine-tune thay vì viết prompt?

Khi một prompt đã kiểm thử kỹ, có ví dụ, vẫn thất bại ở phần lớn trường hợp, hoặc quá dài để gửi trong mọi request. Tài liệu Anthropic cũng lưu ý một số mục tiêu, như giảm độ trễ hoặc chi phí, dễ đạt hơn bằng cách chọn model khác.

Muốn đầu ra tiếng Ả Rập thì có nên viết prompt bằng tiếng Ả Rập không?

Cách nào cũng có thể được. Hãy nói rõ văn phong hoặc phương ngữ bạn muốn, và cách xử lý chữ số cũng như văn bản trộn ngôn ngữ. Bài viết về prompt engineering cho tiếng Ả Rập so sánh cả hai cách.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity