---
title: "Ghi log sử dụng LLM: chi phí theo người dùng, không PII"
description: "Ghi log mọi lời gọi API LLM với token, chi phí, độ trễ và request ID, phân bổ chi tiêu theo người dùng và tính năng, và ẩn PII trước khi ghi. Có code Python."
url: https://broadrouter.com/vi/blog/llm-api-usage-logging/
lang: vi
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/blog/llm-api-usage-logging/) (cập nhật ngày 2026-11-14).

# Ghi log sử dụng API LLM: chi phí theo người dùng, tính năng, ẩn PII

Đội ngũ BroadNet Inference · 4 phút đọc · Đăng ngày 2026-11-14

Bọc mọi lời gọi LLM trong một hàm ghi model, tính năng, ID người dùng đã băm, token prompt, cache, suy luận và đầu ra, chi phí, độ trễ, trạng thái và request ID của nhà cung cấp. Tính chi phí từ bảng giá, không từ hóa đơn. Mặc định chỉ ghi siêu dữ liệu; nếu buộc phải giữ văn bản prompt, hãy ẩn thông tin trước khi ghi và chỉ lưu ngắn hạn.

## Ý chính

-   Một hàm bọc, mỗi lời gọi một dòng log: model, tính năng, người dùng đã băm, số token, chi phí, độ trễ, trạng thái, request ID.
-   Tính chi phí mỗi lời gọi từ khối usage và bảng giá: đầu vào mới, đầu vào đã cache và đầu ra có giá khác nhau.
-   Băm ID người dùng bằng HMAC có khóa để nhóm theo người dùng mà không lưu họ là ai.
-   Mặc định chỉ ghi siêu dữ liệu. Văn bản prompt là rủi ro PII chính; ẩn thông tin trước khi ghi, không bao giờ sau.
-   Cả regex lẫn NER đều bỏ sót. Hãy coi chúng là một lớp bảo vệ, không phải một sự bảo đảm.

**Trong trang này**

1.  Nên ghi gì cho mỗi lời gọi LLM?
2.  Tính chi phí mỗi lời gọi như thế nào?
3.  Hàm bọc ghi log trông như thế nào?
4.  Phân bổ chi phí theo người dùng và tính năng như thế nào?
5.  Làm sao giữ PII ngoài log LLM?
6.  BroadNet Inference phù hợp ở đâu?

Dashboard của nhà cung cấp cho bạn biết đã tiêu bao nhiêu. Chúng hiếm khi cho biết **tính năng nào** hay **khách hàng nào** đã tiêu, và không thể cho biết vì sao hóa đơn tăng vọt vào thứ Ba. Log sử dụng của chính bạn thì có thể. Bài này trình bày schema log, một hàm bọc điền dữ liệu vào đó, cách tính chi phí mỗi lời gọi, và cách giữ dữ liệu cá nhân ở ngoài. Làm gì với các con số được nói ở bài khác: [chi phí theo người dùng và định giá SaaS](https://broadrouter.com/vi/blog/llm-cost-per-user-saas/) và [ngân sách và cơ chế chặn vòng lặp](https://broadrouter.com/vi/blog/llm-api-spend-control/).

## Nên ghi gì cho mỗi lời gọi LLM?

Mỗi lần thử một dòng, kể cả các lần thử lại:

| Trường | Ví dụ | Lý do |
| --- | --- | --- |
| `ts` | 2026-11-14T09:12:03Z | Chuỗi thời gian, dòng thời gian sự cố |
| `feature` | `support_reply` | Chi phí theo tính năng |
| `user_hash` | `hmac:4f1c…` | Chi phí theo người dùng mà không lưu danh tính |
| `tenant` | `acme` | Chi phí theo khách hàng trong ứng dụng B2B |
| `model` | broadnet/deepseek-v4.1-flash | Tra giá, so sánh model |
| `prompt_tokens` | 18.240 | Chi phí đầu vào |
| `cached_tokens` | 16.384 | Đầu vào đã cache rẻ hơn; theo dõi [tỷ lệ cache](https://broadrouter.com/vi/blog/cached-input-tokens-explained/) |
| `reasoning_tokens` | 612 | Chi phí đầu ra ẩn trên model suy luận |
| `completion_tokens` | 1.104 | Chi phí đầu ra (bao gồm suy luận) |
| `cost_usd` | tính toán | Con số bộ phận tài chính hỏi |
| `latency_ms`, `ttft_ms` | 4.210 / 690 | Phát hiện suy giảm hiệu năng |
| `status` | 200, 429, 503 | Tỷ lệ lỗi và thử lại |
| `request_id` | giá trị `X-Request-ID` | Ticket hỗ trợ và tranh chấp hóa đơn |
| `prompt_version` | `support-v14` | Gắn thay đổi chi phí với thay đổi prompt |

Không có văn bản prompt, không có văn bản phản hồi. Những thứ đó để sau, và chỉ khi đã ẩn thông tin.

## Tính chi phí mỗi lời gọi như thế nào?

Đọc khối usage và tính giá riêng cho từng loại [token](https://broadrouter.com/vi/glossary/input-and-output-tokens/). BroadNet công bố giá dạng máy đọc được trong [pricing.json](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-llm-api-usage-logging&utm_content=body), với giá mỗi 1 triệu token cho đầu vào, đầu vào đã cache và đầu ra theo từng model:

```python
import json, urllib.request

PRICES = {m["id"]: m for m in json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))["models"]}

def call_cost(model: str, usage) -> float:
    p = PRICES[model]
    details = getattr(usage, "prompt_tokens_details", None)
    cached = (getattr(details, "cached_tokens", 0) or 0) if details else 0
    new_input = usage.prompt_tokens - cached
    return (
        new_input * (p.get("input_per_m") or 0)
        + cached * (p.get("cached_input_per_m") or p.get("input_per_m") or 0)
        + usage.completion_tokens * (p.get("output_per_m") or 0)
    ) / 1_000_000
```

Hãy cache tệp giá và làm mới hằng ngày thay vì tải về ở mỗi lời gọi. Hai sai lầm dễ mắc: tính token đã cache theo giá đầu vào mới (thổi phồng chi phí), và quên rằng token suy luận đã nằm trong `completion_tokens` (đừng cộng hai lần).

## Hàm bọc ghi log trông như thế nào?

```python
import hashlib, hmac, os, time, logging
from openai import OpenAI

log = logging.getLogger("llm.usage")
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
HASH_KEY = os.environ["USAGE_HASH_KEY"].encode()

def user_hash(user_id: str) -> str:
    return "hmac:" + hmac.new(HASH_KEY, user_id.encode(), hashlib.sha256).hexdigest()[:16]

def chat(*, feature: str, user_id: str, prompt_version: str, **kwargs):
    t0 = time.perf_counter()
    row = {"feature": feature, "user_hash": user_hash(user_id),
           "model": kwargs["model"], "prompt_version": prompt_version}
    try:
        raw = client.chat.completions.with_raw_response.create(**kwargs)
        resp = raw.parse()
        u = resp.usage
        d = getattr(u, "completion_tokens_details", None)
        row.update(
            status=200,
            request_id=raw.headers.get("x-request-id"),
            prompt_tokens=u.prompt_tokens,
            cached_tokens=getattr(getattr(u, "prompt_tokens_details", None), "cached_tokens", 0) or 0,
            reasoning_tokens=(getattr(d, "reasoning_tokens", 0) or 0) if d else 0,
            completion_tokens=u.completion_tokens,
            cost_usd=round(call_cost(kwargs["model"], u), 6),
        )
        return resp
    except Exception as e:
        row.update(status=getattr(e, "status_code", "error"),
                   request_id=getattr(getattr(e, "response", None), "headers", {}).get("x-request-id"))
        raise
    finally:
        row["latency_ms"] = int((time.perf_counter() - t0) * 1000)
        log.info("llm_call", extra={"llm": row})
```

`with_raw_response` trả về cả header, nên bạn giữ được `X-Request-ID`. Với lời gọi streaming, thêm `stream_options={"include_usage": True}` và điền dòng log từ chunk cuối cùng, như trong [bài về streaming SSE](https://broadrouter.com/vi/blog/llm-streaming-sse-explained/). Giữ `HASH_KEY` bí mật và ổn định: cùng một người dùng luôn ra cùng một giá trị băm, nhưng không thể đảo ngược giá trị băm nếu không có khóa.

## Phân bổ chi phí theo người dùng và tính năng như thế nào?

Với các dòng ở trên nằm trong bất kỳ kho SQL nào, phân bổ chỉ là một truy vấn:

```sql
SELECT feature, model,
       count(*)                          AS calls,
       sum(cost_usd)                     AS cost,
       sum(cached_tokens)::float / nullif(sum(prompt_tokens), 0) AS cache_rate,
       avg(completion_tokens)            AS avg_out
FROM llm_calls
WHERE ts >= now() - interval '7 days'
GROUP BY feature, model
ORDER BY cost DESC;
```

Thay `feature` bằng `user_hash` hoặc `tenant` để có chi phí theo khách hàng. Ba bước tiếp theo nhanh chóng mang lại giá trị:

1.  **1% người dùng tốn nhiều nhất.** Thường là một vòng lặp hoặc một bot. `cache_rate` giảm là một cảnh báo sớm khác; [máy tính prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/) cho thấy mỗi điểm phần trăm tỷ lệ cache đáng giá bao nhiêu.
2.  **Chi phí trên mỗi kết quả thành công**, không phải trên mỗi lời gọi: join với các sự kiện thành công của chính bạn.
3.  **Tỷ trọng thử lại.** Các dòng có trạng thái 429 hoặc 5xx cho thấy bạn tiêu bao nhiêu cho lỗi; xem [xử lý lỗi 429](https://broadrouter.com/vi/blog/handle-llm-api-429-rate-limits/).

## Làm sao giữ PII ngoài log LLM?

Log an toàn nhất là log hoàn toàn không có văn bản prompt. Khi cần văn bản để debug hoặc eval, hãy làm theo các bước sau theo thứ tự:

1.  **Lấy mẫu.** Chỉ giữ văn bản cho một phần nhỏ lời gọi và cho các lời gọi lỗi, không phải tất cả.
2.  **Ẩn thông tin trước khi ghi.** Chạy bước ẩn trong chính tiến trình ghi log. Ẩn sau nghĩa là văn bản gốc đã nằm trên đĩa và trong bản sao lưu.
3.  **Xếp lớp các bộ phát hiện.** Regex cho dữ liệu có cấu trúc, công cụ NER cho tên và địa chỉ.
4.  **Lưu riêng.** Đặt văn bản ở bảng hoặc bucket khác với quyền truy cập chặt hơn và thời hạn lưu ngắn, liên kết bằng `request_id`.
5.  **Không bao giờ ghi bí mật.** OWASP logging cheat sheet liệt kê access token, mật khẩu và khóa mã hóa trong số dữ liệu cần loại trừ; [API key](https://broadrouter.com/vi/glossary/api-key/) cũng thuộc danh sách đó.

Một lớp regex tối thiểu:

```python
import re
PATTERNS = [
    (re.compile(r"[\w.+-]+@[\w-]+\.[\w.-]+"), "[EMAIL]"),
    (re.compile(r"\+?\d[\d\s().-]{7,}\d"), "[PHONE]"),
    (re.compile(r"\b(?:\d[ -]?){13,19}\b"), "[CARD]"),
    (re.compile(r"\b(sk|key|bearer)[-_ ]?[A-Za-z0-9]{16,}\b", re.I), "[SECRET]"),
]
def redact(text: str) -> str:
    for pat, label in PATTERNS:
        text = pat.sub(label, text)
    return text
```

Lớp này bắt được các trường hợp hiển nhiên và bỏ sót tên, địa chỉ và mọi thứ bất thường. [Microsoft Presidio](https://github.com/microsoft/presidio) bổ sung nhận dạng thực thể cho những thứ đó, và README của nó nói thẳng rằng không có bảo đảm nó sẽ tìm ra mọi thông tin nhạy cảm. Hãy tính trước việc bỏ sót: thời hạn lưu ngắn và quyền truy cập chặt chẽ hạn chế thiệt hại khi có thứ lọt qua.

## BroadNet Inference phù hợp ở đâu?

BroadNet Inference trả về khối usage có token đã cache và token suy luận khi model báo cáo chúng, một `X-Request-ID` trên mọi phản hồi, và một tệp giá công khai bạn có thể tải về để tính chi phí. Về phía BroadNet, prompt và câu trả lời chỉ được xử lý cho request và không bị lưu giữ; họ chỉ giữ các bản ghi không chứa nội dung như thời gian, số token và chi phí ([cách không lưu giữ dữ liệu hoạt động](https://broadrouter.com/vi/privacy/)). Điều đó khiến log của bạn là bản sao duy nhất của mọi văn bản prompt, nên các quy tắc ẩn thông tin ở trên quyết định mức lưu giữ thực tế của bạn. Request chat của BroadNet không có trường siêu dữ liệu theo người dùng, nên việc phân bổ nằm trong hàm bọc của bạn. Để tách ngân sách theo nhóm, hãy dùng các key riêng; [hướng dẫn về key](https://broadrouter.com/vi/guides/api-keys-ip-allow-lists/) nói về nhãn và danh sách IP được phép.

Công cụ miễn phí cho chủ đề này (tiếng Anh)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Công cụ miễn phí (tiếng Anh)](https://broadrouter.com/tools/)

## Thuật ngữ trong bài này

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[IP allow list (danh sách IP được phép)](https://broadrouter.com/vi/glossary/ip-allow-list/)

IP allow list là cơ chế bảo mật chỉ chấp nhận request từ các địa chỉ IP hoặc dải CIDR trong danh sách và từ chối mọi nguồn khác. Trên API, nó hạn chế thiệt hại khi key bị lộ, vì key không hoạt động từ các mạng không có trong danh sách.

[Nhận dạng thực thể có tên (NER)](https://broadrouter.com/vi/glossary/named-entity-recognition/)

Nhận dạng thực thể có tên (NER) là tác vụ tìm các tên trong văn bản và gán cho mỗi tên một loại, như người, tổ chức hay địa điểm. Hệ thống cổ điển gán nhãn từng token; với LLM, người ta thường yêu cầu trả về danh sách thực thể dạng JSON rồi đối chiếu với văn bản gốc.

[PII (thông tin nhận dạng cá nhân)](https://broadrouter.com/vi/glossary/pii/)

PII (thông tin nhận dạng cá nhân) là thông tin giúp phân biệt hoặc truy ra danh tính một người, như tên, số định danh, dữ liệu sinh trắc, cùng thông tin gắn được với người đó. GDPR dùng khái niệm rộng hơn là dữ liệu cá nhân. Với LLM, che PII là gỡ nó khỏi prompt trước khi gửi.

[Streaming (trả phản hồi dạng luồng)](https://broadrouter.com/vi/glossary/streaming/)

Streaming là cách trả phản hồi của model ngôn ngữ thành từng chunk nhỏ ngay trong lúc nó đang được sinh, thay vì một câu trả lời trọn vẹn ở cuối. Các API tương thích OpenAI stream qua server-sent events khi request đặt stream là true.

[Token suy luận (reasoning tokens)](https://broadrouter.com/vi/glossary/reasoning-tokens/)

Token suy luận (reasoning tokens) là token mà model suy luận sinh ra để giải quyết vấn đề trước khi viết câu trả lời hiển thị. Chúng thường được tính phí như token đầu ra, tính vào giới hạn đầu ra và context window, và có thể bị API ẩn đi hoặc tóm tắt.

[API key (khóa API)](https://broadrouter.com/vi/glossary/api-key/)

API key là một chuỗi bí mật dùng để xác định và cấp quyền cho client gọi API. API LLM thường yêu cầu nó trong header Authorization: Bearer, và bất kỳ ai giữ key đều có thể gửi request được tính phí vào tài khoản sở hữu key đó.

[Giới hạn tần suất (rate limit)](https://broadrouter.com/vi/glossary/rate-limit/)

Giới hạn tần suất (rate limit) là mức trần mà API đặt ra cho lượng sử dụng của một client trong một khoảng thời gian, như số request mỗi phút hoặc số token mỗi phút. Request vượt giới hạn bị từ chối, thường với HTTP 429 Too Many Requests, cho đến khi mức dùng giảm xuống dưới giới hạn.

## Câu hỏi thường gặp

### Làm sao theo dõi chi phí API LLM theo từng người dùng?

Gắn mã định danh người dùng cho mỗi lời gọi, đọc khối usage trong phản hồi, nhân số token với bảng giá của bạn, và ghi mỗi lời gọi một dòng log. Nhóm theo thẻ người dùng. Dùng ID đã băm thay vì email.

### Có nên ghi log toàn bộ prompt và phản hồi không?

Mặc định thì không. Đó là nơi chứa dữ liệu cá nhân. Ghi số token và siêu dữ liệu cho mọi lời gọi, và chỉ giữ toàn văn cho các lời gọi được lấy mẫu hoặc bị lỗi, sau khi ẩn thông tin, với thời hạn lưu ngắn.

### Vì sao chi phí tôi tính khác với hóa đơn của nhà cung cấp?

Thường là vì token đã cache bị tính theo giá đầu vào mới, token suy luận bị bỏ ra khỏi đầu ra, hoặc các lần thử lại không được ghi log. Hãy ghi mọi lần thử, kể cả lần lỗi có trả về usage.

### Làm sao lấy mức dùng token từ phản hồi streaming?

Đặt include\_usage trong stream\_options thành true. Khi đó chunk cuối cùng chứa khối usage với danh sách choices rỗng.

### Nên dùng công cụ ẩn PII nào cho log LLM?

Bắt đầu với regex cho dữ liệu có cấu trúc như email, số điện thoại và số thẻ, rồi thêm công cụ dựa trên NER như Microsoft Presidio cho tên và địa chỉ. Chính README của Presidio nói nó không thể bảo đảm tìm ra mọi thứ.

## Đọc tiếp

-   [API LLM không lưu giữ dữ liệu: checklist 10 câu hỏi](https://broadrouter.com/vi/blog/zero-data-retention-llm-api-checklist/)
-   [Token đầu vào từ cache: cách giảm hóa đơn API LLM](https://broadrouter.com/vi/blog/cached-input-tokens-explained/)
-   [Cách xử lý lỗi 429 của API LLM: backoff, jitter và giới hạn đồng thời](https://broadrouter.com/vi/blog/handle-llm-api-429-rate-limits/)
-   [Giải thích streaming LLM: chunk SSE, delta, usage và hủy](https://broadrouter.com/vi/blog/llm-streaming-sse-explained/)
-   [Cache phản hồi API LLM để giảm chi phí: cache khớp chính xác (Python)](https://broadrouter.com/vi/blog/cache-llm-responses-cut-cost/)
-   [Phần cứng GPU và cách phục vụ model của BroadNet, theo lời BroadNet](https://broadrouter.com/vi/blog/broadnet-gpu-fleet-and-serving/)
-   [Đưa bước người duyệt vào quy trình AI xử lý tài liệu](https://broadrouter.com/vi/blog/document-review-queues/)
-   [Hướng dẫn: Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/)
-   [Hướng dẫn: Streaming chat completions và xử lý khi mất kết nối](https://broadrouter.com/vi/guides/streaming-chat-completions/)
-   [Hướng dẫn: Khóa API key vào server của bạn bằng danh sách IP cho phép](https://broadrouter.com/vi/guides/api-keys-ip-allow-lists/)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-llm-api-usage-logging&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu API BroadNet Inference, trường usage, request ID và lưu giữ (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-llm-api-usage-logging&utm_content=sources)
-   [Bảng giá dạng máy đọc được của BroadNet Inference (pricing.json) (tiếng Anh)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-blog-llm-api-usage-logging&utm_content=sources)
-   [OWASP Logging Cheat Sheet, dữ liệu cần loại khỏi log](https://cheatsheetseries.owasp.org/cheatsheets/Logging_Cheat_Sheet.html)
-   [README Microsoft Presidio, phát hiện PII và giới hạn của nó (truy cập ngày 2026-11-14)](https://github.com/microsoft/presidio)
-   [README openai-python, đọc header phản hồi với with\_raw\_response](https://github.com/openai/openai-python)
