BroadRouter
Mulakan

Kejuruteraan prompt (prompt engineering)

Dikemas kini

Kejuruteraan prompt ialah proses menulis, menyusun dan menguji arahan yang diberikan kepada model bahasa supaya ia sentiasa menghasilkan output yang memenuhi keperluan anda. Ia merangkumi mesej peranan, arahan yang jelas, contoh, format, dan pengukuran hasil berbanding kes ujian.

Juga dikenali sebagai: prompt engineering, reka bentuk prompt, teknik prompt, menulis prompt, prompt design, prompting techniques

Prompt ialah satu spesifikasi. Kejuruteraan prompt ialah menulisnya dengan baik dan menyemak sama ada model mematuhinya.

Cara ia berfungsi

Panduan OpenAI mentakrifkan kejuruteraan prompt sebagai “the process of writing effective instructions for a model” supaya ia “consistently generates content that meets your requirements.” (Terjemahan BroadRouter: “proses menulis arahan yang berkesan untuk model” supaya ia “sentiasa menjana kandungan yang memenuhi keperluan anda.”) Teknik utamanya hampir sama merentas vendor:

Teknik Apa yang perlu dilakukan
Peranan Letakkan peraturan dalam prompt sistem (atau mesej developer) dan permintaan dalam mesej pengguna
Struktur Susun prompt sistem mengikut identiti, arahan, contoh, konteks; gunakan tajuk Markdown dan tag XML untuk menandakan bahagian
Contoh Tambah beberapa pasangan input dan output (few-shot prompting) yang merangkumi kes berbeza
Penaakulan Minta pemikiran langkah demi langkah (chain of thought), atau gunakan model penaakulan
Format output Minta format yang tetap, atau gunakan output berstruktur jika API menyokongnya
Kestabilan Tetapkan versi model supaya tingkah lakunya tidak berubah tanpa anda sedari

Gambaran keseluruhan Anthropic menyarankan supaya bermula dengan tiga perkara: kriteria kejayaan yang jelas, cara untuk mengujinya, dan draf pertama prompt. Secara praktikal, ini bermaksud satu set eval.

Contoh ringkas, sebelum dan selepas. “Sebelum” hanya meminta ringkasan tiket. “Selepas” memberi peranan (meringkaskan tiket sokongan untuk pasukan kejuruteraan), meminta 3 poin (masalah, kesan kepada pelanggan, langkah seterusnya), menyuruh model menggunakan perkataan pelanggan sendiri untuk mesej ralat, dan melarang meneka punca:

Before: Summarize this ticket.

After:  You summarize support tickets for an engineering team.
        Write 3 bullet points: the problem, the customer impact, the next step.
        Use the customer's words for error messages. Do not guess at causes.
        <ticket>...</ticket>

Bagi ejen, prompt hanyalah satu bahagian daripada konteks yang lebih besar. Artikel Anthropic tentang context engineering membezakan kejuruteraan prompt, “methods for writing and organizing LLM instructions” (Terjemahan BroadRouter: “kaedah menulis dan menyusun arahan LLM”), daripada context engineering, yang mengurus semua perkara lain yang dilihat oleh model.

Mengapa ia penting

  • Kualiti tanpa latihan. Prompt yang lebih baik ialah pembaikan termurah untuk dicuba, sebelum fine-tuning atau model yang lebih besar.
  • Kos. Prompt sistem dihantar semula pada setiap permintaan. Buang apa yang tidak mengubah output; lihat cara mengurangkan token prompt.
  • Migrasi. Prompt yang ditala untuk satu model mungkin berkelakuan berbeza pada model lain. Jalankan semula set eval anda apabila bertukar model.

Di BroadNet Inference

Model chat BroadNet menerima senarai messages Chat Completions yang standard, jadi peranan system, user dan assistant serta contoh few-shot berfungsi seperti biasa. Anda boleh mencuba prompt dalam playground sebelum menulis kod. Untuk output bahasa Arab, kejuruteraan prompt bahasa Arab membincangkan laras bahasa, dialek, angka dan format kanan ke kiri.

Output berstruktur didokumenkan untuk GLM 5.3 dan Qwen3.8 27B. Pada DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B, penaakulan dikira dalam max_tokens, jadi prompt “think step by step” (fikir langkah demi langkah) juga memerlukan ruang dalam bajet.

Soalan lazim

Adakah kejuruteraan prompt masih diperlukan dengan model yang lebih baharu?

Ya, walaupun tekniknya berubah. Model yang lebih baharu mematuhi arahan yang ringkas dan khusus dengan baik, jadi kebanyakan kerja ialah menyatakan keperluan dengan jelas, memberi contoh dan menguji dengan input sebenar.

Bilakah saya patut membuat fine-tuning?

Apabila prompt yang telah diuji dengan baik dan mempunyai contoh masih gagal pada sebahagian besar kes, atau terlalu panjang untuk dihantar pada setiap permintaan. Dokumentasi Anthropic juga menyatakan bahawa sesetengah matlamat, seperti kependaman atau kos yang lebih rendah, lebih mudah dicapai dengan memilih model lain.

Patutkah saya menulis prompt dalam bahasa Arab untuk output bahasa Arab?

Kedua-duanya boleh berfungsi. Nyatakan laras bahasa atau dialek yang anda mahu, dan cara mengendalikan angka serta teks bercampur. Artikel kejuruteraan prompt bahasa Arab membandingkan kedua-dua pendekatan.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity