---
title: "Логирование LLM: стоимость по пользователям и функциям"
description: "Логируйте каждый вызов LLM API с токенами, стоимостью, задержкой и ID запроса, считайте расходы по пользователям и функциям, маскируйте ПДн до записи. Код на Python."
url: https://broadrouter.com/ru/blog/llm-api-usage-logging/
lang: ru
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Переведено с английского с помощью ИИ. [Читать оригинал на английском](https://broadrouter.com/blog/llm-api-usage-logging/) (обновлён 2026-11-14).

# Логирование LLM API: стоимость по пользователям и функциям без ПДн

Команда BroadNet Inference · 4 мин чтения · Опубликовано 2026-11-14

Оберните каждый вызов LLM в одну функцию, которая записывает модель, функцию продукта, хэш ID пользователя, входные, кэшированные, рассуждающие и выходные токены, стоимость, задержку, статус и ID запроса у провайдера. Стоимость считайте по таблице цен, а не по счёту. По умолчанию логируйте метаданные; если текст промптов всё же нужен, маскируйте его до записи и храните недолго.

## Главное

-   Одна обёртка — одна строка лога на вызов: модель, функция, хэш пользователя, число токенов, стоимость, задержка, статус, ID запроса.
-   Стоимость каждого вызова считайте по блоку usage и таблице цен: новый вход, вход из кэша и выход стоят по-разному.
-   Хэшируйте ID пользователей через HMAC с ключом, чтобы группировать по пользователю, не храня, кто он.
-   По умолчанию логируйте метаданные. Текст промптов — главный риск утечки ПДн; маскируйте до записи, а не после.
-   И регулярные выражения, и NER-маскирование что-то пропускают. Считайте их одним из уровней защиты, а не гарантией.

**На этой странице**

1.  Что логировать для каждого вызова LLM?
2.  Как посчитать стоимость одного вызова?
3.  Как выглядит обёртка для логирования?
4.  Как распределить стоимость по пользователям и функциям?
5.  Как не пускать ПДн в логи LLM?
6.  Как сюда вписывается BroadNet Inference

Панели провайдеров показывают, сколько вы потратили. Но они редко показывают, **какая функция** или **какой клиент** это потратил, и не объяснят, почему счёт подскочил во вторник. Ваш собственный лог использования — объяснит. В этой статье — схема лога, обёртка, которая его заполняет, расчёт стоимости вызова и способы не пускать в лог персональные данные (ПДн). Что делать с полученными цифрами, разобрано отдельно: в статьях [о стоимости на пользователя и ценообразовании SaaS](https://broadrouter.com/ru/blog/llm-cost-per-user-saas/) и [о бюджетах и защите от циклов](https://broadrouter.com/ru/blog/llm-api-spend-control/).

## Что логировать для каждого вызова LLM?

Одну строку на попытку, включая повторы:

| Поле | Пример | Зачем |
| --- | --- | --- |
| `ts` | 2026-11-14T09:12:03Z | Временные ряды, хронология инцидентов |
| `feature` | `support_reply` | Стоимость по функциям |
| `user_hash` | `hmac:4f1c…` | Стоимость по пользователям без хранения личности |
| `tenant` | `acme` | Стоимость по клиентам в B2B-приложениях |
| `model` | broadnet/deepseek-v4.1-flash | Поиск цены, сравнение моделей |
| `prompt_tokens` | 18 240 | Стоимость входа |
| `cached_tokens` | 16 384 | Вход из кэша дешевле; следите за [долей кэша](https://broadrouter.com/ru/blog/cached-input-tokens-explained/) |
| `reasoning_tokens` | 612 | Скрытая стоимость выхода у моделей с рассуждениями |
| `completion_tokens` | 1 104 | Стоимость выхода (включая рассуждения) |
| `cost_usd` | расчётное | Цифра, которую спрашивают финансисты |
| `latency_ms`, `ttft_ms` | 4 210 / 690 | Регрессии производительности |
| `status` | 200, 429, 503 | Доля ошибок и повторов |
| `request_id` | значение `X-Request-ID` | Обращения в поддержку и споры по счетам |
| `prompt_version` | `support-v14` | Связывает изменения стоимости с изменениями промпта |

Ни текста промпта, ни текста ответа. Они появятся позже и только с маскированием.

## Как посчитать стоимость одного вызова?

Прочитайте блок usage и посчитайте каждый тип [токенов](https://broadrouter.com/ru/glossary/input-and-output-tokens/) отдельно. BroadNet публикует машиночитаемые цены в [pricing.json](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-llm-api-usage-logging&utm_content=body): для каждой модели — цены за 1 млн токенов входа, входа из кэша и выхода:

```python
import json, urllib.request

PRICES = {m["id"]: m for m in json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))["models"]}

def call_cost(model: str, usage) -> float:
    p = PRICES[model]
    details = getattr(usage, "prompt_tokens_details", None)
    cached = (getattr(details, "cached_tokens", 0) or 0) if details else 0
    new_input = usage.prompt_tokens - cached
    return (
        new_input * (p.get("input_per_m") or 0)
        + cached * (p.get("cached_input_per_m") or p.get("input_per_m") or 0)
        + usage.completion_tokens * (p.get("output_per_m") or 0)
    ) / 1_000_000
```

Кэшируйте файл цен и обновляйте его раз в день, а не загружайте при каждом вызове. Две частые ошибки: считать кэшированные токены по цене нового входа (завышает стоимость) и забывать, что токены рассуждений уже входят в `completion_tokens` (не прибавляйте их дважды).

## Как выглядит обёртка для логирования?

```python
import hashlib, hmac, os, time, logging
from openai import OpenAI

log = logging.getLogger("llm.usage")
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
HASH_KEY = os.environ["USAGE_HASH_KEY"].encode()

def user_hash(user_id: str) -> str:
    return "hmac:" + hmac.new(HASH_KEY, user_id.encode(), hashlib.sha256).hexdigest()[:16]

def chat(*, feature: str, user_id: str, prompt_version: str, **kwargs):
    t0 = time.perf_counter()
    row = {"feature": feature, "user_hash": user_hash(user_id),
           "model": kwargs["model"], "prompt_version": prompt_version}
    try:
        raw = client.chat.completions.with_raw_response.create(**kwargs)
        resp = raw.parse()
        u = resp.usage
        d = getattr(u, "completion_tokens_details", None)
        row.update(
            status=200,
            request_id=raw.headers.get("x-request-id"),
            prompt_tokens=u.prompt_tokens,
            cached_tokens=getattr(getattr(u, "prompt_tokens_details", None), "cached_tokens", 0) or 0,
            reasoning_tokens=(getattr(d, "reasoning_tokens", 0) or 0) if d else 0,
            completion_tokens=u.completion_tokens,
            cost_usd=round(call_cost(kwargs["model"], u), 6),
        )
        return resp
    except Exception as e:
        row.update(status=getattr(e, "status_code", "error"),
                   request_id=getattr(getattr(e, "response", None), "headers", {}).get("x-request-id"))
        raise
    finally:
        row["latency_ms"] = int((time.perf_counter() - t0) * 1000)
        log.info("llm_call", extra={"llm": row})
```

`with_raw_response` даёт доступ к заголовкам, так что можно сохранить `X-Request-ID`. Для потоковых вызовов добавьте `stream_options={"include_usage": True}` и заполняйте строку из последнего фрагмента, как показано в [статье о стриминге через SSE](https://broadrouter.com/ru/blog/llm-streaming-sse-explained/). Держите `HASH_KEY` в секрете и не меняйте его: один и тот же пользователь всегда даёт один и тот же хэш, но без ключа хэш не обратить.

## Как распределить стоимость по пользователям и функциям?

Если строки выше лежат в любом SQL-хранилище, распределение — это один запрос:

```sql
SELECT feature, model,
       count(*)                          AS calls,
       sum(cost_usd)                     AS cost,
       sum(cached_tokens)::float / nullif(sum(prompt_tokens), 0) AS cache_rate,
       avg(completion_tokens)            AS avg_out
FROM llm_calls
WHERE ts >= now() - interval '7 days'
GROUP BY feature, model
ORDER BY cost DESC;
```

Замените `feature` на `user_hash` или `tenant`, чтобы получить стоимость по клиентам. Быстро окупаются три следующих шага:

1.  **Верхний 1% пользователей по стоимости.** Часто это один зациклившийся процесс или бот. Второй ранний сигнал — падение `cache_rate`; [калькулятор кэширования промптов](https://broadrouter.com/tools/prompt-caching-calculator/) показывает, сколько стоит каждый процентный пункт доли кэша.
2.  **Стоимость успешного результата**, а не вызова: соедините данные с собственными событиями успеха.
3.  **Доля повторов.** Строки со статусом 429 или 5xx показывают, сколько вы тратите на сбои; см. статью [об обработке ошибок 429](https://broadrouter.com/ru/blog/handle-llm-api-429-rate-limits/).

## Как не пускать ПДн в логи LLM?

Самый безопасный лог вообще не содержит текста промптов. Если текст нужен для отладки или оценки, действуйте по шагам в таком порядке:

1.  **Делайте выборку.** Храните текст для небольшой доли вызовов и для сбоев, а не для всего подряд.
2.  **Маскируйте до записи.** Запускайте маскирование в том же процессе, который пишет лог. Если маскировать позже, сырой текст уже лежит на диске и в резервных копиях.
3.  **Комбинируйте детекторы.** Регулярные выражения — для структурированных данных, NER-инструмент — для имён и адресов.
4.  **Храните отдельно.** Кладите текст в отдельную таблицу или бакет со строгим доступом и коротким сроком хранения, связывая по `request_id`.
5.  **Никогда не логируйте секреты.** OWASP Logging Cheat Sheet относит токены доступа, пароли и ключи шифрования к данным, которые нельзя писать в логи; [API-ключ](https://broadrouter.com/ru/glossary/api-key/) — из того же списка.

Минимальный уровень на регулярных выражениях:

```python
import re
PATTERNS = [
    (re.compile(r"[\w.+-]+@[\w-]+\.[\w.-]+"), "[EMAIL]"),
    (re.compile(r"\+?\d[\d\s().-]{7,}\d"), "[PHONE]"),
    (re.compile(r"\b(?:\d[ -]?){13,19}\b"), "[CARD]"),
    (re.compile(r"\b(sk|key|bearer)[-_ ]?[A-Za-z0-9]{16,}\b", re.I), "[SECRET]"),
]
def redact(text: str) -> str:
    for pat, label in PATTERNS:
        text = pat.sub(label, text)
    return text
```

Он ловит очевидные случаи и пропускает имена, адреса и всё необычное. [Microsoft Presidio](https://github.com/microsoft/presidio) добавляет для них распознавание сущностей, а в его README прямо сказано, что нет гарантии найти всю чувствительную информацию. Закладывайте пропуски в план: короткий срок хранения и строгий доступ ограничивают ущерб, когда что-то проскочит.

## Как сюда вписывается BroadNet Inference

BroadNet Inference возвращает блок usage с кэшированными токенами и токенами рассуждений, когда модель их сообщает, `X-Request-ID` в каждом ответе и публичный файл цен, который можно загрузить для расчёта стоимости. На её стороне промпты и ответы обрабатываются для запроса и не хранятся; сохраняются только записи без содержимого, такие как время, число токенов и стоимость ([как работает нулевое хранение данных](https://broadrouter.com/ru/privacy/)). Поэтому ваши собственные логи — единственная копия текста промптов, и именно правила маскирования выше определяют ваше реальное хранение. В чат-запросах BroadNet нет поля для метаданных пользователя, так что распределение по пользователям живёт в вашей обёртке. Для раздельных бюджетов команд используйте раздельные ключи; метки и белые списки описаны в [руководстве по ключам](https://broadrouter.com/ru/guides/api-keys-ip-allow-lists/).

Бесплатные инструменты по теме (на английском)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Бесплатные инструменты (на английском)](https://broadrouter.com/tools/)

## Термины в этой статье

[Персональные данные (PII)](https://broadrouter.com/ru/glossary/pii/)

PII (personally identifiable information) — это информация, с помощью которой можно отличить или отследить личность человека, например имя, номер удостоверения или биометрические данные, а также другая информация, связанная или связываемая с ним. В GDPR используется более широкий термин «персональные данные». В работе с LLM маскирование PII удаляет их из промптов до того, как те покинут ваши системы.

[Токен (token)](https://broadrouter.com/ru/glossary/token/)

Токен — это единица текста, которую языковая модель читает и пишет: слово, часть слова, знак препинания или последовательность байтов, которую выдаёт токенизатор модели. LLM API считают, ограничивают и обычно тарифицируют использование в токенах.

[Вход из кэша (cached input tokens)](https://broadrouter.com/ru/glossary/cached-input-tokens/)

Вход из кэша (cached input tokens) — это токены промпта, которые провайдер LLM недавно обработал и может взять из кэша, а не вычислять заново; обычно это повторяющийся префикс, например системный промпт или документ. Провайдеры тарифицируют их дешевле, чем новые входные токены.

[Вызов инструментов (tool calling)](https://broadrouter.com/ru/glossary/tool-calling/)

Вызов инструментов (function calling) — это функция LLM API, при которой модель возвращает структурированный запрос на выполнение функции, заданной разработчиком, с аргументами в JSON. Приложение выполняет функцию и отправляет результат обратно; сама модель код никогда не выполняет.

[Нулевое хранение данных (ZDR)](https://broadrouter.com/ru/glossary/zero-data-retention/)

Нулевое хранение данных (ZDR) — это политика обработки данных, при которой AI-провайдер обрабатывает промпты и ответы только для выполнения запроса и после этого не сохраняет их содержимое ни в логах, ни в кэшах, ни в обучающих данных. Записи без содержимого, например число токенов и время выполнения, обычно всё же хранятся.

[Распознавание именованных сущностей (NER)](https://broadrouter.com/ru/glossary/named-entity-recognition/)

Распознавание именованных сущностей (NER) — это задача найти в тексте имена и присвоить каждому тип, например «персона», «организация» или «место». Классические системы размечают каждый токен; у LLM вместо этого обычно просят вернуть список сущностей в JSON, который затем сверяют с исходным текстом.

[Server-sent events (SSE)](https://broadrouter.com/ru/glossary/sse/)

Server-sent events (SSE) — это веб-стандарт, по которому сервер передаёт клиенту поток текстовых событий в одном долгоживущем HTTP-ответе с типом содержимого text/event-stream. Каждое событие — одна или несколько строк-полей, например data:, и завершается пустой строкой.

## Вопросы и ответы

### Как отслеживать стоимость LLM API по каждому пользователю?

Помечайте каждый вызов идентификатором пользователя, читайте блок usage из ответа, умножайте число токенов на таблицу цен и пишите одну строку лога на вызов. Группируйте по метке пользователя. Используйте хэш ID, а не email.

### Нужно ли логировать промпты и ответы целиком?

По умолчанию — нет. Именно в них живут персональные данные. Для каждого вызова логируйте число токенов и метаданные, а полный текст храните только для выборки вызовов или неудачных вызовов, после маскирования и с коротким сроком хранения.

### Почему моя расчётная стоимость не совпадает со счётом провайдера?

Обычно потому, что кэшированные токены посчитали по цене нового входа, токены рассуждений не включили в выход или повторы не попали в лог. Логируйте каждую попытку, включая неудачные, если они вернули usage.

### Как получить расход токенов из потокового ответа?

Задайте stream\_options include\_usage равным true. Тогда последний фрагмент придёт с блоком usage и пустым списком choices.

### Каким инструментом маскировать ПДн в логах LLM?

Начните с регулярных выражений для структурированных данных — email, телефонов, номеров карт — и добавьте инструмент на основе NER, например Microsoft Presidio, для имён и адресов. В README самого Presidio сказано, что он не гарантирует найти всё.

## Читайте также

-   [Нулевое хранение данных (ZDR) в LLM API: чек-лист из 10 вопросов](https://broadrouter.com/ru/blog/zero-data-retention-llm-api-checklist/)
-   [Кэшированные входные токены: как снизить счёт за LLM API](https://broadrouter.com/ru/blog/cached-input-tokens-explained/)
-   [Ошибка 429 в LLM API: экспоненциальная задержка, jitter и лимитеры](https://broadrouter.com/ru/blog/handle-llm-api-429-rate-limits/)
-   [Стриминг LLM: чанки SSE, дельты, usage и отмена](https://broadrouter.com/ru/blog/llm-streaming-sse-explained/)
-   [Кэширование ответов LLM API: кэш точных совпадений на Python](https://broadrouter.com/ru/blog/cache-llm-responses-cut-cost/)
-   [GPU-парк и подход к инференсу BroadNet — по описанию самой BroadNet](https://broadrouter.com/ru/blog/broadnet-gpu-fleet-and-serving/)
-   [Ручная проверка в распознавании документов с помощью ИИ](https://broadrouter.com/ru/blog/document-review-queues/)
-   [Руководство: OpenAI Python SDK и BroadNet Inference](https://broadrouter.com/ru/guides/openai-python-sdk/)
-   [Руководство: Стриминг chat completions и обрыв соединения](https://broadrouter.com/ru/guides/streaming-chat-completions/)
-   [Руководство: Привязка API-ключей к серверам через белый список IP](https://broadrouter.com/ru/guides/api-keys-ip-allow-lists/)

Проверьте на своей реальной нагрузке. Новые аккаунты получают стартовый грант US$5 на Gemma и распознавание речи. Для DeepSeek, GLM и Qwen3.8 нужно пополнить баланс.

[Начать](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-llm-api-usage-logging&utm_content=page-cta) ·

**Источники**

-   [Справочник BroadNet Inference API, поля usage, ID запросов и хранение (на английском)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-llm-api-usage-logging&utm_content=sources)
-   [Машиночитаемые цены BroadNet Inference (pricing.json) (на английском)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=ru-blog-llm-api-usage-logging&utm_content=sources)
-   [OWASP Logging Cheat Sheet, данные, которые нельзя писать в логи](https://cheatsheetseries.owasp.org/cheatsheets/Logging_Cheat_Sheet.html)
-   [README Microsoft Presidio, обнаружение ПДн и его ограничения (дата обращения 2026-11-14)](https://github.com/microsoft/presidio)
-   [README openai-python, чтение заголовков ответа через with\_raw\_response](https://github.com/openai/openai-python)
