Prompt ialah satu spesifikasi. Kejuruteraan prompt ialah menulisnya dengan baik dan menyemak sama ada model mematuhinya.
Cara ia berfungsi
Panduan OpenAI mentakrifkan kejuruteraan prompt sebagai “the process of writing effective instructions for a model” supaya ia “consistently generates content that meets your requirements.” (Terjemahan BroadRouter: “proses menulis arahan yang berkesan untuk model” supaya ia “sentiasa menjana kandungan yang memenuhi keperluan anda.”) Teknik utamanya hampir sama merentas vendor:
| Teknik | Apa yang perlu dilakukan |
|---|---|
| Peranan | Letakkan peraturan dalam prompt sistem (atau mesej developer) dan permintaan dalam mesej pengguna |
| Struktur | Susun prompt sistem mengikut identiti, arahan, contoh, konteks; gunakan tajuk Markdown dan tag XML untuk menandakan bahagian |
| Contoh | Tambah beberapa pasangan input dan output (few-shot prompting) yang merangkumi kes berbeza |
| Penaakulan | Minta pemikiran langkah demi langkah (chain of thought), atau gunakan model penaakulan |
| Format output | Minta format yang tetap, atau gunakan output berstruktur jika API menyokongnya |
| Kestabilan | Tetapkan versi model supaya tingkah lakunya tidak berubah tanpa anda sedari |
Gambaran keseluruhan Anthropic menyarankan supaya bermula dengan tiga perkara: kriteria kejayaan yang jelas, cara untuk mengujinya, dan draf pertama prompt. Secara praktikal, ini bermaksud satu set eval.
Contoh ringkas, sebelum dan selepas. “Sebelum” hanya meminta ringkasan tiket. “Selepas” memberi peranan (meringkaskan tiket sokongan untuk pasukan kejuruteraan), meminta 3 poin (masalah, kesan kepada pelanggan, langkah seterusnya), menyuruh model menggunakan perkataan pelanggan sendiri untuk mesej ralat, dan melarang meneka punca:
Before: Summarize this ticket.
After: You summarize support tickets for an engineering team.
Write 3 bullet points: the problem, the customer impact, the next step.
Use the customer's words for error messages. Do not guess at causes.
<ticket>...</ticket>
Bagi ejen, prompt hanyalah satu bahagian daripada konteks yang lebih besar. Artikel Anthropic tentang context engineering membezakan kejuruteraan prompt, “methods for writing and organizing LLM instructions” (Terjemahan BroadRouter: “kaedah menulis dan menyusun arahan LLM”), daripada context engineering, yang mengurus semua perkara lain yang dilihat oleh model.
Mengapa ia penting
- Kualiti tanpa latihan. Prompt yang lebih baik ialah pembaikan termurah untuk dicuba, sebelum fine-tuning atau model yang lebih besar.
- Kos. Prompt sistem dihantar semula pada setiap permintaan. Buang apa yang tidak mengubah output; lihat cara mengurangkan token prompt.
- Migrasi. Prompt yang ditala untuk satu model mungkin berkelakuan berbeza pada model lain. Jalankan semula set eval anda apabila bertukar model.
Di BroadNet Inference
Model chat BroadNet menerima senarai messages Chat Completions yang standard, jadi peranan system, user dan assistant serta contoh few-shot berfungsi seperti biasa. Anda boleh mencuba prompt dalam playground sebelum menulis kod. Untuk output bahasa Arab, kejuruteraan prompt bahasa Arab membincangkan laras bahasa, dialek, angka dan format kanan ke kiri.
Output berstruktur didokumenkan untuk GLM 5.3 dan Qwen3.8 27B. Pada DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B, penaakulan dikira dalam max_tokens, jadi prompt “think step by step” (fikir langkah demi langkah) juga memerlukan ruang dalam bajet.