말로 설명하기보다 보여 주는 편이 낫습니다. 규칙을 한 문단 쓰는 것보다 예시 몇 개가 형식과 어조를 더 빨리 잡아 주는 경우가 많습니다.
작동 방식
이 용어는 Brown 등이 쓴 GPT-3 논문으로 널리 퍼졌습니다. 논문은 1,750억 파라미터 모델을 경사 업데이트나 파인튜닝 없이 “specified purely via text interaction with the model”(번역: 순전히 모델과의 텍스트 상호작용으로 지정된) 작업으로 시험했고, 퓨샷 성능이 모델 크기에 따라 크게 좋아진다는 것을 확인했습니다. 논문은 세 가지 설정을 정의합니다.
| 설정 | 프롬프트 속 예시 |
|---|---|
| 제로샷 | 없음, 지시문만 |
| 원샷 | 1개 |
| 퓨샷 | 여러 개, 컨텍스트 윈도우가 허용하는 만큼 |
고객 지원 티켓에 라벨을 붙이는 퓨샷 프롬프트는 다음과 같을 수 있습니다.
Ticket: "My card was charged twice." -> billing
Ticket: "The app crashes on login." -> bug
Ticket: "Can you add dark mode?" -> feature_request
Ticket: "I was billed after cancelling." ->
모델은 패턴을 이어 갑니다. Anthropic 가이드는 예시를 형식, 어조, 구조를 조정하는 “one of the most reliable ways to steer”(번역: 가장 확실한 조정 방법 중 하나)라고 부르며, 예시가 관련성 있고 다양해야 하고, 모델이 지시문과 구별할 수 있도록 태그로 감싸야 한다고 말합니다.
왜 중요한가
- 형식 제어. 예시는 빈 필드를 어떻게 쓰는지처럼 규칙이 놓치는 엣지 케이스를 보여 줍니다. 엄격한 JSON이 필요하면 구조화된 출력과 함께 쓰세요.
- 비용. 모든 예시가 호출마다 입력으로 다시 보내집니다. 200토큰짜리 예시 5개면 요청마다 1,000토큰이 늘어납니다. 고정된 프리픽스에 두면 캐시된 입력 토큰으로 청구될 수 있습니다.
- 추론. 답만이 아니라 단계를 보여 주는 예시는 생각의 사슬(CoT) 프롬프팅입니다.
- 멈출 때. 예시가 수백 개 필요하다면 매번 보내는 것보다 파인튜닝이 호출당 더 저렴할 수 있습니다.
BroadNet Inference에서는
퓨샷 프롬프팅에는 특별한 API 기능이 필요 없습니다. messages에 들어가는 일반 텍스트일 뿐입니다. BroadNet은 usage에 cached_tokens를 보고하므로, 예시 블록을 캐시에서 읽는지 확인할 수 있습니다. 종량제(PAYG) 키에서는 캐시 가격이 입력 가격보다 낮습니다. DeepSeek V4.1 Flash를 예로 들면, 100만 토큰당 일반 입력이 $0.175 요금일 때 캐시 입력은 $0.0055 요금입니다. 아랍어 작업은 아랍어 프롬프트 엔지니어링을, 예시를 활용한 문서 추출은 아랍어 청구서 가이드를 참고하세요.
흔한 실수
- 모든 예시가 같은 라벨이나 같은 길이인 경우. 모델이 그 편향을 그대로 따라 합니다.
- 요청마다 예시를 바꾸는 경우. 캐시된 프리픽스가 깨지고 결과를 비교하기도 어려워집니다.