프롬프트는 사양서입니다. 프롬프트 엔지니어링은 그 사양서를 잘 쓰고, 모델이 따르는지 확인하는 일입니다.
작동 방식
OpenAI 가이드는 프롬프트 엔지니어링을 모델이 “consistently generates content that meets your requirements”(번역: 요구 사항을 충족하는 콘텐츠를 일관되게 생성)하도록 하는 “the process of writing effective instructions for a model”(번역: 모델을 위한 효과적인 지시문을 작성하는 과정)이라고 정의합니다. 핵심 기법은 업체가 달라도 겹칩니다.
| 기법 | 방법 |
|---|---|
| 역할 | 규칙은 시스템 프롬프트(또는 developer 메시지)에, 요청은 사용자 메시지에 넣기 |
| 구조 | 시스템 프롬프트를 정체성, 지시, 예시, 컨텍스트 순서로 배치하고 Markdown 제목과 XML 태그로 구역 표시 |
| 예시 | 다양한 경우를 다루는 입력·출력 쌍 몇 개 추가(퓨샷 프롬프팅) |
| 추론 | 단계별로 생각하게 요청(생각의 사슬)하거나 추론 모델 사용 |
| 출력 형식 | 고정된 형식을 요청하거나, API가 지원하면 구조화된 출력 사용 |
| 안정성 | 모델 버전을 고정해 동작이 모르는 사이에 바뀌지 않게 하기 |
Anthropic 개요는 세 가지로 시작하라고 합니다. 명확한 성공 기준, 그 기준으로 테스트할 방법, 그리고 첫 번째 프롬프트 초안입니다. 실무에서는 평가(eval) 세트를 뜻합니다.
짧은 예시로 전후를 비교해 보겠습니다.
Before: Summarize this ticket.
After: You summarize support tickets for an engineering team.
Write 3 bullet points: the problem, the customer impact, the next step.
Use the customer's words for error messages. Do not guess at causes.
<ticket>...</ticket>
개선된 프롬프트는 엔지니어링 팀을 위한 요약이라는 역할을 주고, 문제·고객 영향·다음 단계의 세 항목으로 쓰게 하며, 오류 메시지는 고객의 표현을 그대로 쓰고 원인은 추측하지 말라고 지시합니다.
에이전트에서는 프롬프트가 더 큰 컨텍스트의 일부입니다. Anthropic의 컨텍스트 엔지니어링 글은 프롬프트 엔지니어링, 즉 “methods for writing and organizing LLM instructions”(번역: LLM 지시문을 작성하고 정리하는 방법)를 모델이 보는 나머지 모든 것을 관리하는 컨텍스트 엔지니어링과 구분합니다.
왜 중요한가
- 학습 없이 품질 개선. 더 나은 프롬프트는 파인튜닝이나 더 큰 모델보다 먼저 시도할 수 있는 가장 저렴한 해결책입니다.
- 비용. 시스템 프롬프트는 요청마다 다시 전송됩니다. 출력에 영향을 주지 않는 부분은 빼세요. 프롬프트 토큰 줄이기를 참고하세요.
- 마이그레이션. 한 모델에 맞춘 프롬프트가 다른 모델에서는 다르게 동작할 수 있습니다. 모델을 바꾸면 평가 세트를 다시 돌리세요.
BroadNet Inference에서는
BroadNet의 채팅 모델은 표준 Chat Completions messages 목록을 받으므로 system, user, assistant 역할과 퓨샷 예시가 평소대로 작동합니다. 코드를 쓰기 전에 플레이그라운드에서 프롬프트를 시험해 볼 수 있습니다. 아랍어 출력에 대해서는 아랍어 프롬프트 엔지니어링 글에서 문체, 방언, 숫자, 오른쪽에서 왼쪽으로 쓰는 서식을 다룹니다.
구조화된 출력은 GLM 5.3과 Qwen3.8 27B에 문서화되어 있습니다. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B에서는 추론도 max_tokens에 포함되므로, “단계별로 생각하라”는 프롬프트에는 예산에도 여유가 필요합니다.