BroadRouter
시작하기

LLM API 키 보안: 보관, 교체, IP 허용 목록

BroadNet Inference 팀 · 6분 분량 · 게시 · 업데이트

LLM API 키는 코드나 브라우저가 아니라 시크릿 매니저에 보관하세요. 앱이나 에이전트마다 키를 따로 발급하고, 정해진 주기로 교체하고, IP 허용 목록으로 키를 내 서버에서만 쓰이게 잠그세요. BroadNet Inference에 따르면 허용 목록은 항목 32개까지 받고, 폐기하면 5초 안에 새 요청이 멈추며, 키는 1년 동안 유효합니다.

LLM API 키를 안전하게 지키려면 시크릿 매니저에 보관하고, 모델은 브라우저나 앱이 아니라 서버에서만 호출하세요. 워크로드마다 키를 따로 쓰고, 정해진 주기로 교체하고, 허용 목록으로 서버 IP에 묶고, 유출된 키는 먼저 폐기한 다음 조사하세요.

이 글은 키를 안전하게 지키는 습관을 BroadNet Inference가 제공하는 구체적인 통제 기능과 함께 다룹니다. 포털에서 단계별로 설정하는 방법은 API 키와 IP 허용 목록 가이드를, 예산과 폭주하는 루프 방지는 LLM API 지출 관리를 참고하세요.

LLM API 키는 어디에 보관해야 하나요?

키는 코드가 아니라 시크릿 매니저나 플랫폼의 암호화된 시크릿 저장소에 보관하세요. 선택지는 OWASP Secrets Management Cheat Sheet에 자세히 정리되어 있습니다. 여기서 경고하는 점도 눈여겨보세요. 환경 변수는 “are generally accessible to all processes and may be included in logs or system dumps”(번역: 일반적으로 모든 프로세스가 접근할 수 있고 로그나 시스템 덤프에 포함될 수 있습니다)이므로, OWASP는 선택할 수 있다면 마운트된 시크릿 파일이나 시크릿 저장소에서 가져오는 방식을 권합니다. 시작할 때 시크릿 매니저에서 값을 채워 넣는 환경 변수가 흔히 쓰는 절충안입니다.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],  # fails loudly if missing
)

하드코딩한 기본값을 둔 os.getenv(...)가 아니라 os.environ[...]을 쓰세요. 그런 기본값 때문에 키가 Git에 올라가게 됩니다. 로컬 개발에서는 첫 커밋부터 .gitignore에 들어 있다면 .env 파일을 써도 괜찮습니다. Git 호스팅 서비스의 시크릿 스캐닝과 푸시 보호를 켜세요. GitHub에서는 푸시 보호가 알려진 시크릿 형식이 담긴 푸시를 저장소에 도달하기 전에 차단합니다. 사용자 대상 푸시 보호는 기본으로 켜져 있지만, 저장소 수준의 푸시 보호는 기본으로 꺼져 있어 저장소 관리자나 조직 소유자가 직접 켜야 합니다.

API 키를 브라우저나 모바일 앱에 넣어도 되나요?

안 됩니다. 클라이언트에 배포한 것은 무엇이든 추출할 수 있습니다. 프런트엔드 코드와 앱 번들은 아무리 축소하거나 난독화해도 공개된 것입니다. LLM은 서버에서 호출하고, 사용자 인증도 서버에서 한 뒤, 요청을 전달하기 전에 사용자별 한도를 직접 적용하세요.

다른 사람에게 건네는 데스크톱 도구도 마찬가지입니다. 팀원이 코딩 에이전트를 써야 한다면 키 하나를 공유하지 말고, 그 사람의 계정에서 그 사람의 키를 쓰게 하세요.

왜 워크로드마다 키를 따로 써야 하나요?

BroadNet Inference에서는 계정당 유효한 키를 최대 10개까지 둘 수 있습니다. 이를 활용하세요.

키 라벨 사용처
prod-api 프로덕션 백엔드
prod-worker 배치 작업
staging 스테이징 환경
agent-ci CI의 코딩 에이전트
dev-laptop-<name> 로컬 개발

키 하나가 유출되면 그 키만 폐기하면 되고, 나머지는 계속 작동합니다. 라벨이 있으면 사용량도 읽기 쉬워져 어떤 워크로드가 얼마를 쓰는지 볼 수 있습니다. 키 이름은 누가 만들었는지가 아니라 무엇이 쓰는지를 기준으로 붙이세요.

IP 허용 목록은 키를 어떻게 보호하나요?

IP 허용 목록을 쓰면 도난당한 키는 내 인프라 밖 어디에서도 작동하지 않습니다. BroadNet Inference에서는 다음과 같습니다.

  • 계정 허용 목록은 항목을 최대 32개까지 받으며, 한 줄에 IPv4 또는 IPv6 주소나 CIDR 범위 하나를 적습니다.
  • 목록이 비어 있으면 제한이 없습니다.
  • 새 키는 계정 목록을 물려받습니다. 단, 키를 만들 때 자체 allowed_ips를 지정하면 그 키에서는 물려받은 목록 대신 그 값이 적용됩니다.
  • 목록 밖 주소에서 온 요청은 403(“refused by model, route or IP policy”, 번역: 모델, 경로 또는 IP 정책에 의해 거부됨)으로 거부됩니다.

포털 API로 자체 목록을 가진 키를 만들 수 있습니다.

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

응답에는 원본 키가 한 번만 담깁니다. 다시 읽을 수 없으므로 즉시 시크릿 매니저에 저장하세요. 전체 단계는 IP 허용 목록 가이드에 있습니다.

허용 목록은 송신 IP가 고정된 서버에 잘 맞습니다. VPS, NAT 게이트웨이, 고정 사무실 IP 등입니다. 네트워크가 자주 바뀌는 노트북에는 목록 없는 별도 키를 쓰고, 그 키로 노출되는 잔액을 작게 유지하세요.

왜 추론 키와 관리자 자격 증명을 분리해야 하나요?

BroadNet은 두 종류의 자격 증명을 사용합니다.

자격 증명 할 수 있는 일 보관 위치
추론 키 /v1/*로 모델 요청 앱이 실행되는 곳
포털 자격 증명 키 생성과 폐기, 허용 IP 변경, 구매 자동화나 관리 도구에만

문서는 각 포털 자격 증명을 계정 전체 권한으로 다루라고 안내합니다. 포털 자격 증명을 애플리케이션 옆에 배포하지 마세요. 앱 서버가 침해되더라도 공격자가 얻는 것은 계정 제어권이 아니라 추론 키 하나여야 합니다.

API 키는 얼마나 자주 교체해야 하나요?

OWASP는 정기적인 교체를 권장합니다. “so that any stolen credentials will only work for a short time”(번역: 도난당한 자격 증명이 짧은 시간 동안만 작동하도록) 하기 위해서입니다. BroadNet 키는 생성일로부터 1년 동안 유효하므로 어차피 모든 키를 언젠가 교체해야 합니다. 교체를 일상 업무로 만드세요.

  1. 같은 라벨 규칙과 허용 목록으로 새 키를 만듭니다.
  2. 기존 키와 나란히 배포하거나, 시크릿을 바꾸고 재시작합니다.
  3. 트래픽이 새 키로 옮겨 가는지 지켜봅니다.
  4. DELETE /portal/keys/{alias}로 기존 키를 폐기합니다.

계정당 유효한 키를 최대 10개까지 둘 수 있으므로, 기존 키와 새 키를 몇 분 동안 겹쳐 두면 중단 없이 교체할 수 있습니다. 퇴사하는 팀원이 접근할 수 있었던 키는 더 일찍 교체하세요.

키가 유출되면 어떻게 해야 하나요?

키가 유출되면 먼저 폐기하고 그다음 조사하세요. BroadNet Inference에서는 키를 폐기하거나 허용 목록을 바꾸면 5초 안에 새 요청이 멈춥니다. 문서에 따르면 인가 결정이 그 정해진 시간 동안 복제된 캐시에 남아 있을 수 있기 때문입니다.

폐기한 뒤에는 다음을 하세요.

  • 계정 페이지나 GET /portal/usage에서 해당 키의 사용량을 확인합니다.
  • 어떻게 유출됐는지 찾습니다(커밋 기록, CI 로그, 공유된 스크린샷).
  • 같은 곳에 보관된 다른 시크릿도 교체합니다.

폐기되거나 차단된 키는 401이나 403을 반환합니다. 모니터링이 이를 일시적인 오류로 취급하지 않도록 오류 가이드를 참고하세요.

키는 로그를 통해 어떻게 유출되나요?

로그는 놓치기 쉬운 유출 경로입니다. HTTP 디버그 로그, 오류 리포터, 프록시 접근 로그에서 Authorization 헤더를 가리세요. 지원팀에 문의할 때는 X-Request-ID, 타임스탬프, 경로, 상태, 키 별칭(alias) 을 보내고, 키 자체는 절대 보내지 마세요. BroadNet 문서에 따르면 포털은 각 키의 해시만 저장하므로, 잃어버린 키를 다시 보여 줄 수도 없습니다.

아직 발견하지 못한 유출의 피해는 어떻게 줄이나요?

위의 습관을 모두 지키더라도 언젠가 키가 유출될 수 있다고 가정하세요. 피해 범위를 줄이세요.

  • 종량제 잔액은 잃어도 괜찮은 수준으로 유지하고, 필요할 때 충전하세요.
  • 사용량이 많은 에이전트에는 정액 플랜을 쓰세요. 플랜 세션은 가격이 고정되어 있어, 도난당한 플랜 키로 토큰당 청구액이 불어날 수 없습니다. 무제한이 실제로 뜻하는 것을 참고하세요.
  • 키별로 비정상적인 지출이나 요청 속도에 알림을 거세요. LLM API 비용 계산기로 알림 기준이 될 평소 월 금액을 구할 수 있습니다. 예산과 알림은 LLM API 지출 관리 글에서 다룹니다.

BroadNet Inference는 어떤 키 통제 기능을 제공하나요?

통제 기능 BroadNet Inference
키를 한 번만 표시, 해시로 저장 예
계정당 유효한 키 최대 10개
키 유효 기간 1년
IP 허용 목록 IPv4, IPv6, CIDR 항목 최대 32개
키별 허용 목록 예, 생성 시 allowed_ips
폐기 적용 시점 5초 이내
별도의 관리자 자격 증명 포털 자격 증명

키는 계정을 보호하고, 데이터 비보관은 그 계정으로 보내는 내용을 보호합니다. 출시 전에 둘 다 읽어 보세요.

자주 묻는 질문

LLM API 키는 어디에 보관해야 하나요?

시크릿 매니저나 플랫폼의 암호화된 시크릿 저장소에 두고, BROADNET_API_KEY 같은 환경 변수로 프로세스에 주입하세요. 소스 코드나 커밋된 .env 파일에 두면 안 되고, 프런트엔드 코드에는 절대 넣지 마세요.

BroadNet Inference 키는 얼마나 빨리 폐기할 수 있나요?

BroadNet 문서에 따르면 키를 폐기하거나 허용 목록을 바꾸면 5초 안에 새 요청이 멈춥니다. 인가 결정이 그 정해진 시간 동안 복제된 캐시에 남아 있을 수 있기 때문입니다.

BroadNet Inference 키는 얼마 동안 유효한가요?

종량제 키는 생성일로부터 1년 동안 유효합니다. 계정당 유효한 키를 최대 10개까지 둘 수 있으므로, 기존 키가 만료되기 전에 새 키를 미리 만들 수 있습니다.

키를 잃어버리면 BroadNet에서 다시 보여 줄 수 있나요?

아니요. BroadNet 문서에 따르면 원본 키는 한 번만 반환되고, 포털은 해시만 저장합니다. 새 키를 만들고 기존 키는 폐기하세요.

OpenAI 호환 API 키가 유출되면 어떻게 해야 하나요?

먼저 폐기하고 그다음 조사하세요. 키 사용량에서 모르는 트래픽이 있는지 확인하고, 어디서 유출됐는지(커밋 기록, CI 로그, 스크린샷) 찾고, 같은 곳에 보관된 다른 시크릿도 교체한 뒤, IP 허용 목록을 건 새 키를 발급하세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기