Un prompt è una specifica. Il prompt engineering consiste nello scriverla bene e nel verificare che il modello la rispetti.
Come funziona
La guida di OpenAI definisce il prompt engineering come “the process of writing effective instructions for a model” (traduzione: il processo di scrivere istruzioni efficaci per un modello), così che “consistently generates content that meets your requirements” (traduzione: generi in modo costante contenuti che rispettano i tuoi requisiti). Le tecniche di base si somigliano tra i vari vendor:
| Tecnica | Cosa fare |
|---|---|
| Ruoli | Metti le regole nel system prompt (o nel messaggio developer) e la richiesta nel messaggio utente |
| Struttura | Ordina il system prompt in identità, istruzioni, esempi, contesto; usa titoli Markdown e tag XML per separare le sezioni |
| Esempi | Aggiungi alcune coppie di input e output (few-shot prompting) che coprano casi diversi |
| Ragionamento | Chiedi un ragionamento passo passo (chain of thought), oppure usa un modello di ragionamento |
| Formato di output | Chiedi un formato fisso, oppure usa l’output strutturato dove l’API lo supporta |
| Stabilità | Fissa una versione del modello, così il comportamento non cambia a tua insaputa |
La panoramica di Anthropic consiglia di partire da tre cose: criteri di successo chiari, un modo per testarli e una prima bozza di prompt. In pratica significa un set di eval.
Un breve esempio, prima e dopo (il prompt resta in inglese: chiede un riassunto in tre punti, problema, impatto sul cliente e passo successivo, senza ipotesi sulle cause):
Before: Summarize this ticket.
After: You summarize support tickets for an engineering team.
Write 3 bullet points: the problem, the customer impact, the next step.
Use the customer's words for error messages. Do not guess at causes.
<ticket>...</ticket>
Per gli agenti, il prompt è solo una parte di un contesto più ampio. L’articolo di Anthropic sul context engineering distingue il prompt engineering, “methods for writing and organizing LLM instructions” (traduzione: metodi per scrivere e organizzare le istruzioni per un LLM), dal context engineering, che gestisce tutto il resto di ciò che il modello vede.
Perché è importante
- Qualità senza addestramento. Un prompt migliore è la correzione più economica da provare, prima del fine-tuning o di un modello più grande.
- Costo. Il system prompt viene rimandato a ogni richiesta. Taglia ciò che non cambia l’output; vedi come ridurre i token del prompt.
- Migrazione. Un prompt ottimizzato per un modello può comportarsi diversamente su un altro. Quando cambi modello, rilancia il tuo set di eval.
Su BroadNet Inference
I modelli di chat di BroadNet accettano l’elenco messages standard di Chat Completions, quindi ruoli system, user e assistant ed esempi few-shot funzionano come al solito. Puoi provare i prompt nel playground prima di scrivere codice. Per l’output in arabo, il prompt engineering in arabo tratta registro, dialetto, numeri e formattazione da destra a sinistra.
L’output strutturato è documentato per GLM 5.3 e Qwen3.8 27B. Su DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B il ragionamento conta in max_tokens, quindi anche un prompt del tipo “think step by step” (ragiona passo passo) ha bisogno di spazio nel budget.