---
title: "컨텍스트 엔지니어링이란? AI 에이전트의 토큰 관리 | BroadRouter"
description: "컨텍스트 엔지니어링은 LLM이 매 턴 보는 토큰(지시문, 도구, 대화 기록, 검색 데이터)을 고르는 일입니다. 에이전트용 기법과 각각의 비용을 정리했습니다."
url: https://broadrouter.com/ko/glossary/context-engineering/
lang: ko
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/glossary/context-engineering/) (2026-11-15 업데이트).

# 컨텍스트 엔지니어링(context engineering)

업데이트 2026-11-15

컨텍스트 엔지니어링(context engineering)은 언어 모델이 요청마다 보는 토큰 집합, 즉 시스템 프롬프트, 도구 정의, 대화 기록, 검색한 문서, 메모를 고르고 관리하는 작업입니다. 목표는 모델이 작업을 잘 해내는 데 필요한, 신호가 강한 정보의 가장 작은 집합을 건네는 것입니다.

다른 이름: 컨텍스트 엔지니어링, 컨텍스트 관리, 에이전트 컨텍스트 관리, 컨텍스트 설계, context management, agent context engineering

프롬프트는 한 번 쓰는 것입니다. 컨텍스트는 모델이 매 턴 보는 모든 것이고, 에이전트에서는 턴마다 바뀝니다.

## 작동 방식

Anthropic의 엔지니어링 글은 컨텍스트 엔지니어링을 추론 중에 “the set of strategies for curating and maintaining the optimal set of tokens”(번역: 최적의 토큰 집합을 선별하고 유지하기 위한 전략의 모음)로 설명하며, 여기에는 프롬프트 밖의 정보도 포함됩니다. 목표는 원하는 결과가 나올 가능성을 높이는 “smallest possible set of high-signal tokens”(번역: 신호가 강한 토큰의 가능한 가장 작은 집합)를 찾는 것이라고 합니다.

이유는 주의력이 한정되어 있기 때문입니다. 이 글은 모델에 “attention budget”(번역: 주의력 예산)이 있고 컨텍스트가 길어질수록 정보를 떠올리는 능력이 떨어진다고 말하며, 이를 [컨텍스트 로트(context rot)](https://broadrouter.com/ko/glossary/context-rot/)라고 부릅니다. 위치도 중요합니다. 긴 프롬프트의 중간에 있는 사실은 놓치기 쉽습니다([lost in the middle](https://broadrouter.com/ko/glossary/lost-in-the-middle/)).

이 글은 오래 실행되는 에이전트를 위한 몇 가지 기법을 소개합니다.

| 기법 | 하는 일 |
| --- | --- |
| [압축(compaction)](https://broadrouter.com/ko/glossary/context-compaction/) | 한도에 가까워지면 대화 기록을 요약하고 요약본에서 이어서 진행 |
| 도구 결과 정리(tool result clearing) | 오래된 원본 도구 출력을 대화 기록에서 삭제 |
| 구조화된 메모(structured note-taking) | 에이전트가 컨텍스트 밖의 파일에 메모를 쓰고 나중에 다시 읽음 |
| [서브에이전트](https://broadrouter.com/ko/glossary/subagent/) | 깨끗한 컨텍스트에서 집중 작업을 하고 짧은 요약만 반환 |
| 적시 검색(just-in-time retrieval) | 참조(파일 경로, 쿼리)만 들고 있다가 필요할 때 데이터를 불러옴 |

코딩 에이전트에서 한 턴의 예산을 계산한 예시입니다.

```text
System prompt + rules          4,000 tokens
Tool definitions               6,000 tokens
Notes file                     1,500 tokens
History (compacted)           20,000 tokens
Latest tool output             8,000 tokens   <- largest single item
```

## 왜 중요한가

-   **품질.** 컨텍스트의 잡음이 적을수록 대개 답이 좋아지고 놓치는 지시도 줄어듭니다.
-   **비용.** 토큰당 과금에서는 컨텍스트의 모든 토큰이 매 턴 청구됩니다. 바뀌지 않는 내용을 앞에 두면 [캐시된 입력](https://broadrouter.com/ko/glossary/cached-input-tokens/)으로 더 싸게 처리됩니다. [캐싱을 위한 프롬프트 구조](https://broadrouter.com/ko/blog/prompt-structure-for-caching/)를 참고하세요.
-   **실행 시간.** 컨텍스트를 잘 관리하면 에이전트가 [컨텍스트 윈도우](https://broadrouter.com/ko/glossary/context-window/) 한도에 닿지 않고 몇 시간씩 작업할 수 있습니다.

## BroadNet Inference에서는

컨텍스트 엔지니어링은 여러분의 코드에서 이루어집니다. BroadNet의 Chat Completions API는 보낸 메시지 목록을 그대로 받습니다. [DeepSeek V4.1 Flash](https://broadrouter.com/ko/models/deepseek-v4.1-flash/)와 [GLM 5.3](https://broadrouter.com/ko/models/glm-5.3/)은 1,048,576 토큰, [Qwen3.8 27B](https://broadrouter.com/ko/models/qwen3.8-27b/)는 262,144 토큰, [Gemma 4 VL 26B](https://broadrouter.com/ko/models/gemma-4-vl-26b/)는 32K 토큰을 받으므로, 컨텍스트를 빠듯하게 관리하는 일은 Gemma에서 가장 중요합니다.

모델이 보고하는 경우 `usage.prompt_tokens_details.cached_tokens`에 캐시에서 읽은 토큰 수가 나오며, 종량제에서는 이 토큰이 캐시된 입력 가격으로 청구됩니다. [오래 실행되는 에이전트의 컨텍스트 관리](https://broadrouter.com/ko/blog/long-running-agent-context-management/)에 실전 규칙 다섯 가지가 있고, [에이전트 토큰 예산](https://broadrouter.com/ko/blog/agent-token-budget/) 글은 에이전트의 토큰이 어디에 쓰이는지 보여 줍니다.

## 자주 묻는 질문

### 컨텍스트 엔지니어링과 프롬프트 엔지니어링은 어떻게 다른가요?

프롬프트 엔지니어링은 좋은 지시문을 쓰는 일입니다. 컨텍스트 엔지니어링은 도구 정의, 대화 기록, 검색한 데이터를 포함해 모델이 한 턴에 보는 모든 것을 다루고, 긴 세션 동안 그 집합이 어떻게 바뀌는지까지 관리합니다.

### 그냥 더 큰 컨텍스트 윈도우를 쓰면 되지 않나요?

윈도우가 크면 문제가 늦게 올 뿐 사라지지는 않습니다. Anthropic은 컨텍스트가 길어질수록 정보를 떠올리는 능력이 떨어진다고 설명하며, 토큰당 과금에서는 추가 토큰마다 매 턴 다시 비용을 냅니다.

### 가장 먼저 무엇을 해 봐야 하나요?

컨텍스트를 무엇이 채우는지 측정하세요. 보통 도구 출력과 오래된 대화 기록이 가장 크고, 이를 잘라내거나 요약하는 것은 적은 비용으로 시도할 수 있습니다.

## 함께 보기

-   [프롬프트 엔지니어링(prompt engineering)](https://broadrouter.com/ko/glossary/prompt-engineering/) (용어)
-   [컨텍스트 압축(context compaction)](https://broadrouter.com/ko/glossary/context-compaction/) (용어)
-   [컨텍스트 로트(context rot)](https://broadrouter.com/ko/glossary/context-rot/) (용어)
-   [Lost in the middle(중간 정보 손실)](https://broadrouter.com/ko/glossary/lost-in-the-middle/) (용어)
-   [컨텍스트 윈도우(context window)](https://broadrouter.com/ko/glossary/context-window/) (용어)
-   [캐시된 입력 토큰(cached input tokens)](https://broadrouter.com/ko/glossary/cached-input-tokens/) (용어)
-   [에이전트용 무제한 LLM API 플랜은 어떻게 작동하나요?](https://broadrouter.com/ko/guides/unlimited-llm-api-sessions/) (가이드)
-   [1M 컨텍스트 창으로 장시간 실행 에이전트의 컨텍스트 관리하기](https://broadrouter.com/ko/blog/long-running-agent-context-management/) (글)
-   [에이전트 토큰 예산: 에이전트 루프의 토큰은 어디로 가는가](https://broadrouter.com/ko/blog/agent-token-budget/) (글)
-   [접두부가 캐시되도록 프롬프트를 구성하는 방법](https://broadrouter.com/ko/blog/prompt-structure-for-caching/) (글)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-glossary-context-engineering&utm_content=page-cta) ·

**출처**

-   [Anthropic Engineering, Effective context engineering for AI agents(2026-11-15 확인)](https://www.anthropic.com/engineering/effective-context-engineering-for-ai-agents)
-   [Claude Code 문서, 서브에이전트(컨텍스트 보존)(2026-11-15 확인)](https://code.claude.com/docs/en/sub-agents)
-   [Claude Code 문서, 비용 효율적으로 관리하기(토큰 사용량 줄이기)(2026-11-15 확인)](https://code.claude.com/docs/en/costs)
