Menunjukkan lebih berkesan daripada memberitahu. Beberapa contoh selalunya membetulkan format dan nada lebih cepat daripada satu perenggan peraturan.
Cara ia berfungsi
Kertas kajian GPT-3 oleh Brown dan rakan-rakan mempopularkan istilah ini. Ia menguji model 175 bilion parameter dengan tugas yang “specified purely via text interaction with the model” (Terjemahan BroadRouter: “ditetapkan semata-mata melalui interaksi teks dengan model”), tanpa kemas kini gradien atau fine-tuning, dan mendapati prestasi few-shot meningkat dengan ketara apabila saiz model bertambah. Kertas itu mentakrifkan tiga tetapan:
| Tetapan | Contoh dalam prompt |
|---|---|
| Zero-shot | tiada, hanya arahan |
| One-shot | satu |
| Few-shot | beberapa, dihadkan oleh tetingkap konteks |
Prompt few-shot untuk melabel tiket sokongan mungkin kelihatan begini:
Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->
Model menyambung corak itu. Panduan Anthropic menyifatkan contoh sebagai “one of the most reliable ways to steer” (Terjemahan BroadRouter: “salah satu cara paling boleh dipercayai untuk mengemudi”) format, nada dan struktur, dan meminta contoh yang relevan, pelbagai dan dibalut dalam tag supaya model dapat membezakannya daripada arahan.
Mengapa ia penting
- Kawalan format. Contoh menunjukkan kes pinggir yang terlepas oleh peraturan, seperti cara menulis medan kosong. Untuk JSON yang ketat, gandingkan dengan output berstruktur.
- Kos. Setiap contoh dihantar semula sebagai input pada setiap panggilan. Lima contoh 200 token menambah 1,000 token bagi setiap permintaan. Jika diletakkan dalam awalan tetap, ia boleh dicaj sebagai token input cache.
- Penaakulan. Contoh yang menunjukkan langkah-langkah, bukan hanya jawapan, ialah prompt chain-of-thought.
- Bila perlu berhenti. Jika anda memerlukan beratus-ratus contoh, fine-tuning mungkin lebih murah bagi setiap panggilan daripada menghantarnya setiap kali.
Di BroadNet Inference
Few-shot prompting tidak memerlukan ciri API khas; ia hanya teks biasa dalam messages. BroadNet melaporkan cached_tokens dalam usage, jadi anda boleh menyemak sama ada blok contoh anda dibaca daripada cache. Pada kunci PAYG, harga cache lebih rendah daripada harga input; pada DeepSeek V4.1 Flash, ia ialah $0.0055 berbanding $0.175 bagi setiap 1M token. Untuk tugas bahasa Arab, lihat kejuruteraan prompt bahasa Arab, dan untuk pengekstrakan dokumen dengan contoh, panduan invois bahasa Arab.
Kesilapan biasa
- Menggunakan contoh yang semuanya berkongsi satu label atau panjang yang sama. Model meniru bias itu.
- Menukar contoh bagi setiap permintaan. Ini merosakkan awalan cache dan menyukarkan perbandingan hasil.