---
title: "LLM 사용량 로깅: 사용자·기능별 비용, 개인정보 제외 | BroadRouter"
description: "모든 LLM API 호출을 토큰, 비용, 지연 시간, 요청 ID와 함께 기록하고, 사용자와 기능별로 비용을 배분하며, 기록 전에 개인정보를 마스킹하는 방법을 Python 코드로 설명합니다."
url: https://broadrouter.com/ko/blog/llm-api-usage-logging/
lang: ko
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

이 페이지는 영어 원문을 AI의 도움을 받아 번역했습니다. [영어 원문 읽기](https://broadrouter.com/blog/llm-api-usage-logging/) (2026-11-14 업데이트).

# LLM API 사용량 로깅: 사용자·기능별 비용 추적과 개인정보 마스킹

BroadNet Inference 팀 · 4분 분량 · 게시 2026-11-14

모든 LLM 호출을 함수 하나로 감싸 모델, 기능, 해시한 사용자 ID, 프롬프트·캐시·추론·출력 토큰, 비용, 지연 시간, 상태, 제공업체 요청 ID를 기록하세요. 비용은 청구서가 아니라 가격표로 계산합니다. 기본적으로 메타데이터만 기록하고, 프롬프트 텍스트를 꼭 남겨야 한다면 기록 전에 마스킹하고 보관 기간을 짧게 잡으세요.

## 핵심 요약

-   래퍼 하나, 호출당 로그 한 줄: 모델, 기능, 해시한 사용자, 토큰 수, 비용, 지연 시간, 상태, 요청 ID.
-   호출당 비용은 usage 블록과 가격표로 계산하세요. 새 입력, 캐시된 입력, 출력은 가격이 다릅니다.
-   사용자 ID는 키를 쓰는 HMAC으로 해시하세요. 누구인지 저장하지 않고도 사용자별로 묶을 수 있습니다.
-   기본은 메타데이터만 기록하세요. 프롬프트 텍스트가 개인정보의 주된 위험입니다. 마스킹은 기록 전에 하고, 기록 후에 하지 마세요.
-   정규식과 NER 기반 마스킹은 모두 놓치는 것이 있습니다. 보장이 아니라 하나의 계층으로 취급하세요.

**이 페이지의 내용**

1.  LLM 호출마다 무엇을 기록해야 하나요?
2.  호출당 비용은 어떻게 계산하나요?
3.  로깅 래퍼는 어떻게 생겼나요?
4.  사용자와 기능별로 비용은 어떻게 배분하나요?
5.  LLM 로그에서 개인정보를 빼려면 어떻게 하나요?
6.  BroadNet Inference는 어디에 맞나요?

제공업체 대시보드는 얼마를 썼는지 알려 줍니다. 하지만 **어떤 기능**이나 **어떤 고객**이 썼는지는 거의 알려 주지 않고, 화요일에 청구액이 왜 튀었는지도 알려 줄 수 없습니다. 자체 사용량 로그는 알려 줄 수 있습니다. 이 글은 로그 스키마, 그것을 채우는 래퍼, 호출당 비용 계산법, 개인 데이터를 빼는 방법을 보여 줍니다. 수치로 무엇을 할지는 다른 글에서 다룹니다. [사용자당 비용과 SaaS 가격 책정](https://broadrouter.com/ko/blog/llm-cost-per-user-saas/), [예산과 루프 방지 장치](https://broadrouter.com/ko/blog/llm-api-spend-control/)입니다.

## LLM 호출마다 무엇을 기록해야 하나요?

재시도를 포함해 시도당 한 행입니다.

| 필드 | 예시 | 이유 |
| --- | --- | --- |
| `ts` | 2026-11-14T09:12:03Z | 시계열, 장애 타임라인 |
| `feature` | `support_reply` | 기능별 비용 |
| `user_hash` | `hmac:4f1c…` | 신원을 저장하지 않는 사용자별 비용 |
| `tenant` | `acme` | B2B 앱의 고객별 비용 |
| `model` | broadnet/deepseek-v4.1-flash | 가격 조회, 모델 비교 |
| `prompt_tokens` | 18,240 | 입력 비용 |
| `cached_tokens` | 16,384 | 캐시된 입력은 더 저렴함. [캐시 적중률](https://broadrouter.com/ko/blog/cached-input-tokens-explained/) 추적 |
| `reasoning_tokens` | 612 | 추론 모델의 숨은 출력 비용 |
| `completion_tokens` | 1,104 | 출력 비용(추론 포함) |
| `cost_usd` | 계산값 | 재무팀이 묻는 숫자 |
| `latency_ms`, `ttft_ms` | 4,210 / 690 | 성능 저하 감지 |
| `status` | 200, 429, 503 | 오류율과 재시도율 |
| `request_id` | `X-Request-ID` 값 | 지원 문의와 청구 이의 제기 |
| `prompt_version` | `support-v14` | 비용 변화를 프롬프트 변경과 연결 |

프롬프트 텍스트도, 응답 텍스트도 없습니다. 그것은 나중에, 마스킹을 거쳐서만 다룹니다.

## 호출당 비용은 어떻게 계산하나요?

usage 블록을 읽고 [토큰](https://broadrouter.com/ko/glossary/input-and-output-tokens/) 유형별로 따로 가격을 매기세요. BroadNet은 [pricing.json](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-llm-api-usage-logging&utm_content=body)에 기계 판독용 가격을 공개하며, 모델별로 입력, 캐시된 입력, 출력의 100만 토큰당 가격이 들어 있습니다.

```python
import json, urllib.request

PRICES = {m["id"]: m for m in json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))["models"]}

def call_cost(model: str, usage) -> float:
    p = PRICES[model]
    details = getattr(usage, "prompt_tokens_details", None)
    cached = (getattr(details, "cached_tokens", 0) or 0) if details else 0
    new_input = usage.prompt_tokens - cached
    return (
        new_input * (p.get("input_per_m") or 0)
        + cached * (p.get("cached_input_per_m") or p.get("input_per_m") or 0)
        + usage.completion_tokens * (p.get("output_per_m") or 0)
    ) / 1_000_000
```

가격 파일은 호출마다 가져오지 말고 캐시해 두었다가 매일 갱신하세요. 흔한 실수 두 가지가 있습니다. 캐시된 토큰을 새 입력 가격으로 계산하는 것(비용이 부풀려짐), 그리고 추론 토큰이 이미 `completion_tokens`에 포함되어 있다는 것을 잊는 것(두 번 더하지 마세요)입니다.

## 로깅 래퍼는 어떻게 생겼나요?

```python
import hashlib, hmac, os, time, logging
from openai import OpenAI

log = logging.getLogger("llm.usage")
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
HASH_KEY = os.environ["USAGE_HASH_KEY"].encode()

def user_hash(user_id: str) -> str:
    return "hmac:" + hmac.new(HASH_KEY, user_id.encode(), hashlib.sha256).hexdigest()[:16]

def chat(*, feature: str, user_id: str, prompt_version: str, **kwargs):
    t0 = time.perf_counter()
    row = {"feature": feature, "user_hash": user_hash(user_id),
           "model": kwargs["model"], "prompt_version": prompt_version}
    try:
        raw = client.chat.completions.with_raw_response.create(**kwargs)
        resp = raw.parse()
        u = resp.usage
        d = getattr(u, "completion_tokens_details", None)
        row.update(
            status=200,
            request_id=raw.headers.get("x-request-id"),
            prompt_tokens=u.prompt_tokens,
            cached_tokens=getattr(getattr(u, "prompt_tokens_details", None), "cached_tokens", 0) or 0,
            reasoning_tokens=(getattr(d, "reasoning_tokens", 0) or 0) if d else 0,
            completion_tokens=u.completion_tokens,
            cost_usd=round(call_cost(kwargs["model"], u), 6),
        )
        return resp
    except Exception as e:
        row.update(status=getattr(e, "status_code", "error"),
                   request_id=getattr(getattr(e, "response", None), "headers", {}).get("x-request-id"))
        raise
    finally:
        row["latency_ms"] = int((time.perf_counter() - t0) * 1000)
        log.info("llm_call", extra={"llm": row})
```

`with_raw_response`로 헤더를 받을 수 있으므로 `X-Request-ID`를 남길 수 있습니다. 스트리밍 호출이라면 `stream_options={"include_usage": True}`를 추가하고, [SSE 스트리밍 글](https://broadrouter.com/ko/blog/llm-streaming-sse-explained/)에서처럼 마지막 청크로 행을 채우세요. `HASH_KEY`는 비밀로, 그리고 바뀌지 않게 유지하세요. 같은 사용자는 항상 같은 해시로 매핑되지만, 키 없이는 해시를 되돌릴 수 없습니다.

## 사용자와 기능별로 비용은 어떻게 배분하나요?

위의 행이 SQL 저장소에 있다면, 배분은 쿼리 하나로 끝납니다.

```sql
SELECT feature, model,
       count(*)                          AS calls,
       sum(cost_usd)                     AS cost,
       sum(cached_tokens)::float / nullif(sum(prompt_tokens), 0) AS cache_rate,
       avg(completion_tokens)            AS avg_out
FROM llm_calls
WHERE ts >= now() - interval '7 days'
GROUP BY feature, model
ORDER BY cost DESC;
```

고객별 비용을 보려면 `feature`를 `user_hash`나 `tenant`로 바꾸세요. 금방 효과를 보는 후속 분석 세 가지입니다.

1.  **비용 상위 1% 사용자.** 루프 하나나 봇인 경우가 많습니다. `cache_rate`가 떨어지는 것도 또 하나의 조기 경고입니다. 캐시 적중률 1%포인트가 얼마의 가치인지는 [프롬프트 캐싱 계산기](https://broadrouter.com/tools/prompt-caching-calculator/)에서 볼 수 있습니다.
2.  호출당이 아니라 **성공한 결과당 비용**: 자체 성공 이벤트와 조인하세요.
3.  **재시도 비중.** 상태가 429나 5xx인 행은 실패에 얼마를 쓰는지 보여 줍니다. [429 오류 처리](https://broadrouter.com/ko/blog/handle-llm-api-429-rate-limits/)를 참고하세요.

## LLM 로그에서 개인정보를 빼려면 어떻게 하나요?

가장 안전한 로그는 프롬프트 텍스트가 아예 없는 로그입니다. 디버깅이나 평가를 위해 텍스트가 필요하다면 다음 단계를 순서대로 따르세요.

1.  **샘플링하세요.** 텍스트는 모든 호출이 아니라 일부 호출과 실패한 호출에 대해서만 남기세요.
2.  **기록 전에 마스킹하세요.** 로그를 쓰는 프로세스 안에서 마스킹을 실행하세요. 나중에 마스킹하면 원본 텍스트가 이미 디스크와 백업에 남아 있습니다.
3.  **탐지기를 겹쳐 쓰세요.** 정형 데이터는 정규식으로, 이름과 주소는 NER 도구로.
4.  **따로 저장하세요.** 텍스트는 접근 권한이 더 엄격하고 보관 기간이 짧은 별도 테이블이나 버킷에 두고, `request_id`로 연결하세요.
5.  **비밀 정보는 절대 기록하지 마세요.** OWASP 로깅 치트 시트는 액세스 토큰, 비밀번호, 암호화 키를 제외할 데이터로 꼽습니다. [API 키](https://broadrouter.com/ko/glossary/api-key/)도 그 목록에 들어갑니다.

최소한의 정규식 계층입니다.

```python
import re
PATTERNS = [
    (re.compile(r"[\w.+-]+@[\w-]+\.[\w.-]+"), "[EMAIL]"),
    (re.compile(r"\+?\d[\d\s().-]{7,}\d"), "[PHONE]"),
    (re.compile(r"\b(?:\d[ -]?){13,19}\b"), "[CARD]"),
    (re.compile(r"\b(sk|key|bearer)[-_ ]?[A-Za-z0-9]{16,}\b", re.I), "[SECRET]"),
]
def redact(text: str) -> str:
    for pat, label in PATTERNS:
        text = pat.sub(label, text)
    return text
```

이것은 뻔한 경우는 잡지만, 이름, 주소, 특이한 형태는 놓칩니다. [Microsoft Presidio](https://github.com/microsoft/presidio)는 그런 것을 위한 개체명 인식을 더해 주며, README에서 모든 민감 정보를 찾는다는 보장은 없다고 분명히 말합니다. 놓치는 경우를 전제로 계획하세요. 짧은 보관 기간과 엄격한 접근 권한이 놓친 것이 빠져나갔을 때의 피해를 줄입니다.

## BroadNet Inference는 어디에 맞나요?

BroadNet Inference는 모델이 보고하는 경우 캐시 토큰과 추론 토큰을 포함한 usage 블록을 반환하고, 모든 응답에 `X-Request-ID`를 붙이며, 비용 계산에 불러올 수 있는 공개 가격 파일을 제공합니다. BroadNet 쪽에서는 프롬프트와 답변이 요청 처리에만 쓰이고 보관되지 않으며, 처리 시간, 토큰 수, 비용 같은 콘텐츠 없는 기록만 남깁니다([데이터 비보관 작동 방식](https://broadrouter.com/ko/privacy/)). 따라서 프롬프트 텍스트의 사본은 여러분의 로그에만 있게 되고, 실제 보관 수준은 위의 마스킹 규칙이 결정합니다. BroadNet 채팅 요청에는 사용자별 메타데이터 필드가 없으므로, 비용 배분은 래퍼에서 처리해야 합니다. 팀별로 예산을 나누려면 키를 따로 쓰세요. 레이블과 허용 목록은 [키 가이드](https://broadrouter.com/ko/guides/api-keys-ip-allow-lists/)에서 다룹니다.

관련 무료 도구 (영어)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[무료 도구 (영어)](https://broadrouter.com/tools/)

## 이 글의 용어

[서버 전송 이벤트(SSE, Server-Sent Events)](https://broadrouter.com/ko/glossary/sse/)

서버 전송 이벤트(SSE, Server-Sent Events)는 서버가 text/event-stream 콘텐츠 타입의 오래 유지되는 HTTP 응답 하나로 클라이언트에 텍스트 이벤트 스트림을 보내는 웹 표준입니다. 각 이벤트는 data: 같은 필드 줄 하나 이상으로 이루어지며 빈 줄로 끝납니다.

[캐시된 입력 토큰(cached input tokens)](https://broadrouter.com/ko/glossary/cached-input-tokens/)

캐시된 입력 토큰은 LLM 제공업체가 최근에 처리해 두었다가 다시 계산하지 않고 캐시에서 재사용할 수 있는 프롬프트 토큰입니다. 보통 시스템 프롬프트나 문서처럼 반복되는 접두부(prefix)이며, 제공업체는 이를 새 입력 토큰보다 낮은 단가로 과금합니다.

[개체명 인식(NER, named entity recognition)](https://broadrouter.com/ko/glossary/named-entity-recognition/)

개체명 인식(NER)은 텍스트에서 이름을 찾아 사람, 조직, 장소 같은 유형을 붙이는 작업입니다. 전통적인 시스템은 모든 토큰에 태그를 붙이고, LLM에는 보통 개체 목록을 JSON으로 반환하게 한 뒤 원문과 대조해 확인합니다.

[데이터 비보관(Zero data retention, ZDR)](https://broadrouter.com/ko/glossary/zero-data-retention/)

데이터 비보관(ZDR)은 AI 제공업체가 프롬프트와 출력을 요청 처리에만 사용하고, 처리 후에는 그 내용을 로그, 캐시, 학습 데이터 어디에도 저장하지 않는 데이터 처리 정책입니다. 토큰 수나 처리 시간처럼 내용이 없는 기록은 보통 계속 보관됩니다.

[도구 호출(tool calling)](https://broadrouter.com/ko/glossary/tool-calling/)

도구 호출(tool calling)은 함수 호출(function calling)이라고도 하며, 모델이 개발자가 정의한 함수를 실행해 달라는 구조화된 요청을 JSON 인자와 함께 반환하는 LLM API 기능입니다. 함수는 애플리케이션이 실행하고 그 결과를 다시 보냅니다. 모델이 직접 코드를 실행하지는 않습니다.

[속도 제한(rate limit)](https://broadrouter.com/ko/glossary/rate-limit/)

속도 제한(rate limit)은 API가 일정 시간 동안 클라이언트가 사용할 수 있는 양에 두는 상한으로, 분당 요청 수나 분당 토큰 수 같은 기준이 있습니다. 한도를 넘은 요청은 사용량이 다시 한도 아래로 내려갈 때까지 거부되며, 보통 HTTP 429 Too Many Requests가 반환됩니다.

## 자주 묻는 질문

### LLM API 비용을 사용자별로 추적하려면 어떻게 하나요?

호출마다 사용자 식별자를 붙이고, 응답의 usage 블록을 읽어 토큰 수에 가격표를 곱한 뒤, 호출당 로그 행을 하나씩 기록하세요. 사용자 태그로 묶으면 됩니다. 이메일 대신 해시한 ID를 쓰세요.

### 프롬프트와 응답 전체를 로그로 남겨야 하나요?

기본적으로는 아닙니다. 개인 데이터가 있는 곳이 바로 거기입니다. 모든 호출에 대해 토큰 수와 메타데이터를 기록하고, 전체 텍스트는 샘플링한 호출이나 실패한 호출에 대해서만 마스킹 후 짧은 보관 기간으로 남기세요.

### 계산한 비용이 제공업체 청구서와 다른 이유는 무엇인가요?

대개 캐시된 토큰을 새 입력 가격으로 계산했거나, 추론 토큰을 출력에서 빠뜨렸거나, 재시도를 기록하지 않았기 때문입니다. usage를 반환한 실패 시도를 포함해 모든 시도를 기록하세요.

### 스트리밍 응답에서 토큰 사용량은 어떻게 얻나요?

stream\_options의 include\_usage를 true로 설정하세요. 그러면 마지막 청크에 빈 choices 목록과 함께 usage 블록이 담겨 옵니다.

### LLM 로그의 개인정보 마스킹에는 어떤 도구를 써야 하나요?

이메일, 전화번호, 카드 번호 같은 정형 데이터는 정규식으로 시작하고, 이름과 주소에는 Microsoft Presidio 같은 NER 기반 도구를 더하세요. Presidio README도 모든 것을 찾는다고 보장할 수 없다고 밝힙니다.

## 이어서 읽기

-   [데이터 비보관(ZDR) LLM API: 확인해야 할 질문 10가지](https://broadrouter.com/ko/blog/zero-data-retention-llm-api-checklist/)
-   [캐시된 입력 토큰: 프롬프트 캐싱으로 LLM API 요금 줄이기](https://broadrouter.com/ko/blog/cached-input-tokens-explained/)
-   [LLM API 429 오류 처리 방법: 백오프, 지터, 동시 처리 제한](https://broadrouter.com/ko/blog/handle-llm-api-429-rate-limits/)
-   [LLM 스트리밍 원리: SSE 청크, 델타, usage, 취소](https://broadrouter.com/ko/blog/llm-streaming-sse-explained/)
-   [LLM API 응답 캐싱으로 비용 줄이기: Python 정확 일치 캐시](https://broadrouter.com/ko/blog/cache-llm-responses-cut-cost/)
-   [BroadNet의 GPU 하드웨어와 서빙 방식: BroadNet이 밝힌 내용](https://broadrouter.com/ko/blog/broadnet-gpu-fleet-and-serving/)
-   [문서 AI 워크플로에 사람의 검토 단계 넣기](https://broadrouter.com/ko/blog/document-review-queues/)
-   [가이드: BroadNet Inference에서 OpenAI Python SDK 사용하기](https://broadrouter.com/ko/guides/openai-python-sdk/)
-   [가이드: 채팅 완성 스트리밍과 끊긴 연결 처리하기](https://broadrouter.com/ko/guides/streaming-chat-completions/)
-   [가이드: IP 허용 목록으로 API 키를 내 서버에만 묶기](https://broadrouter.com/ko/guides/api-keys-ip-allow-lists/)

실제 워크로드로 테스트해 보세요. 신규 계정에는 US$5 상당의 초기 크레딧이 제공되며 Gemma 및 음성 전사에 사용할 수 있습니다. DeepSeek, GLM 및 Qwen3.8 모델은 충전이 필요합니다.

[시작하기](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-llm-api-usage-logging&utm_content=page-cta) ·

**출처**

-   [BroadNet Inference API 레퍼런스, usage 필드, 요청 ID, 보관 (영어)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-llm-api-usage-logging&utm_content=sources)
-   [BroadNet Inference 기계 판독용 가격 파일(pricing.json) (영어)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ko-blog-llm-api-usage-logging&utm_content=sources)
-   [OWASP Logging Cheat Sheet, 로그에서 제외할 데이터](https://cheatsheetseries.owasp.org/cheatsheets/Logging_Cheat_Sheet.html)
-   [Microsoft Presidio README, 개인정보(PII) 탐지와 그 한계(2026-11-14 확인)](https://github.com/microsoft/presidio)
-   [openai-python README, with\_raw\_response로 응답 헤더 읽기](https://github.com/openai/openai-python)
