---
title: "LLM 가드레일이란? 입력·출력 검사 설명 | BroadRouter"
description: "가드레일은 LLM 호출 앞뒤에서 위험한 입력과 출력을 차단, 수정, 표시하는 검사입니다. 입력·출력·도구 가드레일, 지연 시간 비용, 실행 위치를 정리했습니다."
url: https://broadrouter.com/ko/glossary/guardrails/
lang: ko
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/glossary/guardrails/) (2026-11-14 업데이트).

# 가드레일(guardrails)

업데이트 2026-11-14

가드레일(guardrails)은 언어 모델 호출이 정해진 한계 안에 머물도록 애플리케이션이 호출 앞뒤에서 실행하는 검사입니다. 입력 가드레일은 모델에 들어가는 내용을, 출력 가드레일은 나오는 내용을 검사하고, 도구 가드레일은 실행 전에 동작을 검증합니다. 검사에 실패하면 요청을 차단하거나 고치거나 표시합니다.

다른 이름: 가드레일, LLM 가드레일, AI 가드레일, 입력 가드레일, 출력 가드레일, 안전 장치, LLM guardrails, AI guardrails, input guardrails, output guardrails, safety rails

가드레일은 모델을 감싸는 검사입니다. 나쁜 입력이나 나쁜 출력이 사용자에게 닿기 전에 여러분의 코드에서 멈추게 합니다.

## 작동 방식

OpenAI Agents SDK는 가드레일을 “checks and validations of user input and agent output”(번역: 사용자 입력과 에이전트 출력에 대한 검사와 검증)으로 설명하며 세 종류를 정의합니다.

| 종류 | 실행 시점 | 대표적인 검사 |
| --- | --- | --- |
| 입력 | 첫 모델 호출 전 또는 동시에 | 주제를 벗어난 요청, 악의적 요청, 인젝션된 요청 |
| 출력 | 최종 답변 후 | 비밀 유출, 정책 위반, 잘못된 형식 |
| 도구 | 함수 도구 실행 전후 | 인자 범위, 파괴적 동작 여부 |

검사에 실패하면 “tripwire”(번역: 트립와이어)가 예외를 발생시켜 실행을 멈춥니다. 입력 검사는 차단형(메인 모델이 아예 시작하지 않음)이나 병렬형(지연 시간은 짧지만, 트립와이어가 걸릴 때쯤 이미 토큰과 도구 호출을 썼을 수 있음)으로 실행할 수 있습니다.

NVIDIA의 오픈소스 NeMo Guardrails 라이브러리는 입력, 검색, 대화, 실행, 출력 레일의 다섯 단계를 씁니다. Anthropic 문서는 “harmlessness screen”(번역: 무해성 검사)을 제안합니다. 작고 빠른 모델이 사용자 입력이 메인 대화에 닿기 전에 분류하고, [구조화된 출력](https://broadrouter.com/ko/glossary/structured-output/)으로 판정을 파싱 가능한 true 또는 false로 받는 방식입니다.

모든 가드레일에 모델이 필요한 것은 아닙니다. 정규식 필터, 허용 목록, JSON Schema 검증, 길이 제한은 저렴하고 결과가 결정적입니다.

## 왜 중요한가

-   **안전.** 가드레일은 [프롬프트 인젝션](https://broadrouter.com/ko/glossary/prompt-injection/)과 [탈옥(jailbreak)](https://broadrouter.com/ko/glossary/jailbreak/)에 대한 방어층 중 하나입니다. 어떤 층도 혼자서 전부 막지는 못합니다.
-   **비용.** 저렴한 검사로 비싼 모델이 컨텍스트 100,000토큰을 읽기 전에 요청을 거부할 수 있습니다.
-   **에이전트.** 이메일을 보내거나 데이터를 수정하는 [에이전트](https://broadrouter.com/ko/glossary/agent/)에는 최종 텍스트 필터만이 아니라 도구 수준 검사와 위험한 단계에 대한 사람의 승인이 필요합니다.
-   **측정하기.** 좋은 요청을 막는 가드레일은 버그입니다. [eval](https://broadrouter.com/ko/glossary/eval/) 세트로 오탐을 추적하세요.

## BroadNet Inference에서는

BroadNet 문서에는 가드레일, 모더레이션 엔드포인트, 콘텐츠 필터가 없습니다. 가드레일은 애플리케이션이 맡을 일로 보세요. 흔한 패턴은 [BroadNet Gemma 4 VL 26B](https://broadrouter.com/ko/models/gemma-4-vl-26b/)(입력 토큰 100만 개당 $0.10) 같은 작은 모델로 먼저 검사하고, 그다음 큰 모델로 메인 호출을 하는 것입니다. 입력에 개인정보가 들어 있다면 [민감한 데이터를 LLM API로 보낼 때](https://broadrouter.com/ko/blog/llm-api-sensitive-data/)를 참고하세요.

## 자주 묻는 질문

### 가드레일은 모델의 일부인가요?

아닙니다. 모델에는 학습된 거절 동작이 있지만, 가드레일은 애플리케이션이 메인 호출 앞뒤에서 실행하는 별도의 코드나 모델 호출입니다. 무엇을 검사할지는 여러분이 정합니다.

### 가드레일 때문에 지연 시간이 늘어나나요?

차단형 입력 검사는 메인 모델이 시작하기 전에 호출 하나를 더 추가합니다. OpenAI Agents SDK는 대신 입력 가드레일을 병렬로 실행할 수 있는데, 시간은 아끼지만 검사가 걸리기 전에 토큰을 쓸 수 있습니다.

### BroadNet Inference에는 가드레일이 포함되어 있나요?

BroadNet 문서에는 가드레일이나 콘텐츠 필터 기능이 없습니다. 예를 들어 작은 모델을 검사용으로 쓰고 출력에 스키마 검증을 적용하는 식으로 애플리케이션에서 직접 만드세요.

## 함께 보기

-   [프롬프트 인젝션(prompt injection)](https://broadrouter.com/ko/glossary/prompt-injection/) (용어)
-   [LLM 탈옥(jailbreak)](https://broadrouter.com/ko/glossary/jailbreak/) (용어)
-   [AI 에이전트(AI agent)](https://broadrouter.com/ko/glossary/agent/) (용어)
-   [구조화된 출력(Structured output)](https://broadrouter.com/ko/glossary/structured-output/) (용어)
-   [LLM 평가(eval)](https://broadrouter.com/ko/glossary/eval/) (용어)
-   [시스템 프롬프트(system prompt)](https://broadrouter.com/ko/glossary/system-prompt/) (용어)
-   [PII(개인 식별 정보)](https://broadrouter.com/ko/glossary/pii/) (용어)
-   [BroadNet Inference에서 OpenAI Agents SDK 실행하기](https://broadrouter.com/ko/guides/openai-agents-sdk-custom-provider/) (가이드)
-   [LLM API에 민감한 데이터 보내기: 가리고, 줄이고, 덜 기록하기](https://broadrouter.com/ko/blog/llm-api-sensitive-data/) (글)
-   [LLM API 키 보안: 보관, 교체, IP 허용 목록](https://broadrouter.com/ko/blog/llm-api-key-security/) (글)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-glossary-guardrails&utm_content=page-cta) ·

**출처**

-   [OpenAI Agents SDK, 가드레일(입력, 출력, 도구 가드레일, 트립와이어)](https://openai.github.io/openai-agents-python/guardrails/)
-   [NVIDIA NeMo Guardrails 문서](https://docs.nvidia.com/nemo/guardrails/latest/index.html)
-   [Anthropic, 탈옥과 프롬프트 인젝션 완화(무해성 검사)](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/mitigate-jailbreaks)
