---
title: "Logging pemakaian LLM: biaya per pengguna dan fitur | BroadRouter"
description: "Catat setiap panggilan API LLM beserta token, biaya, latensi, dan request ID, atribusikan biaya ke pengguna dan fitur, dan redaksi PII sebelum ditulis. Kode Python."
url: https://broadrouter.com/id/blog/llm-api-usage-logging/
lang: id
updated: 2026-11-14
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan dari bahasa Inggris dengan bantuan AI. [Baca versi asli bahasa Inggris](https://broadrouter.com/blog/llm-api-usage-logging/) (diperbarui 2026-11-14).

# Logging pemakaian API LLM: biaya per pengguna dan fitur, tanpa PII

Oleh tim BroadNet Inference · 4 menit baca · Dipublikasikan 2026-11-14

Bungkus setiap panggilan LLM dalam satu fungsi yang mencatat model, fitur, ID pengguna yang di-hash, token prompt, cache, penalaran, dan output, biaya, latensi, status, serta request ID dari penyedia. Hitung biaya dari tabel harga, bukan dari invoice. Catat metadata secara default; jika harus menyimpan teks prompt, redaksi sebelum ditulis dan tetapkan masa simpan yang singkat.

## Poin penting

-   Satu wrapper, satu baris log per panggilan: model, fitur, pengguna yang di-hash, jumlah token, biaya, latensi, status, request ID.
-   Hitung biaya per panggilan dari blok usage dan tabel harga: input baru, input cache, dan output punya harga berbeda.
-   Hash ID pengguna dengan HMAC berkunci agar Anda bisa mengelompokkan per pengguna tanpa menyimpan identitas mereka.
-   Catat metadata secara default. Teks prompt adalah risiko PII utama; redaksi sebelum ditulis, jangan sesudahnya.
-   Redaksi dengan regex maupun NER sama-sama bisa terlewat. Anggap sebagai satu lapisan, bukan jaminan.

**Di halaman ini**

1.  Apa yang perlu dicatat untuk setiap panggilan LLM?
2.  Bagaimana menghitung biaya per panggilan?
3.  Seperti apa wrapper logging-nya?
4.  Bagaimana mengatribusikan biaya ke pengguna dan fitur?
5.  Bagaimana menjauhkan PII dari log LLM?
6.  Di mana posisi BroadNet Inference?

Dasbor penyedia memberi tahu berapa yang Anda habiskan. Dasbor itu jarang memberi tahu **fitur mana** atau **pelanggan mana** yang menghabiskannya, dan tidak bisa menjelaskan mengapa tagihan melonjak pada hari Selasa. Log pemakaian Anda sendiri bisa. Artikel ini menunjukkan skema log, wrapper yang mengisinya, cara menghitung biaya per panggilan, dan cara menjauhkan data pribadi. Apa yang dilakukan dengan angka-angka itu dibahas di tempat lain: [biaya per pengguna dan harga SaaS](https://broadrouter.com/id/blog/llm-cost-per-user-saas/) serta [anggaran dan pengaman loop](https://broadrouter.com/id/blog/llm-api-spend-control/).

## Apa yang perlu dicatat untuk setiap panggilan LLM?

Satu baris per percobaan, termasuk retry:

| Field | Contoh | Alasan |
| --- | --- | --- |
| `ts` | 2026-11-14T09:12:03Z | Deret waktu, linimasa insiden |
| `feature` | `support_reply` | Biaya per fitur |
| `user_hash` | `hmac:4f1c…` | Biaya per pengguna tanpa menyimpan identitas |
| `tenant` | `acme` | Biaya per pelanggan di aplikasi B2B |
| `model` | broadnet/deepseek-v4.1-flash | Pencarian harga, perbandingan model |
| `prompt_tokens` | 18.240 | Biaya input |
| `cached_tokens` | 16.384 | Input cache lebih murah; pantau [cache rate](https://broadrouter.com/id/blog/cached-input-tokens-explained/) |
| `reasoning_tokens` | 612 | Biaya output tersembunyi pada model penalaran |
| `completion_tokens` | 1.104 | Biaya output (termasuk penalaran) |
| `cost_usd` | dihitung | Angka yang ditanyakan tim keuangan |
| `latency_ms`, `ttft_ms` | 4.210 / 690 | Regresi performa |
| `status` | 200, 429, 503 | Tingkat error dan retry |
| `request_id` | nilai `X-Request-ID` | Tiket dukungan dan sengketa invoice |
| `prompt_version` | `support-v14` | Mengaitkan perubahan biaya dengan perubahan prompt |

Tanpa teks prompt, tanpa teks respons. Keduanya menyusul nanti, dan hanya dengan redaksi.

## Bagaimana menghitung biaya per panggilan?

Baca blok usage dan hitung harga setiap jenis [token](https://broadrouter.com/id/glossary/input-and-output-tokens/) secara terpisah. BroadNet menerbitkan harga yang dapat dibaca mesin di [pricing.json](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-llm-api-usage-logging&utm_content=body), dengan harga per 1 juta untuk input, input cache, dan output per model:

```python
import json, urllib.request

PRICES = {m["id"]: m for m in json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json"))["models"]}

def call_cost(model: str, usage) -> float:
    p = PRICES[model]
    details = getattr(usage, "prompt_tokens_details", None)
    cached = (getattr(details, "cached_tokens", 0) or 0) if details else 0
    new_input = usage.prompt_tokens - cached
    return (
        new_input * (p.get("input_per_m") or 0)
        + cached * (p.get("cached_input_per_m") or p.get("input_per_m") or 0)
        + usage.completion_tokens * (p.get("output_per_m") or 0)
    ) / 1_000_000
```

Cache file harga dan perbarui setiap hari, jangan mengambilnya di setiap panggilan. Dua kesalahan yang mudah terjadi: menghargai token cache sebagai input baru (biaya jadi terlalu tinggi), dan lupa bahwa token penalaran sudah termasuk di `completion_tokens` (jangan dijumlahkan dua kali).

## Seperti apa wrapper logging-nya?

```python
import hashlib, hmac, os, time, logging
from openai import OpenAI

log = logging.getLogger("llm.usage")
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
HASH_KEY = os.environ["USAGE_HASH_KEY"].encode()

def user_hash(user_id: str) -> str:
    return "hmac:" + hmac.new(HASH_KEY, user_id.encode(), hashlib.sha256).hexdigest()[:16]

def chat(*, feature: str, user_id: str, prompt_version: str, **kwargs):
    t0 = time.perf_counter()
    row = {"feature": feature, "user_hash": user_hash(user_id),
           "model": kwargs["model"], "prompt_version": prompt_version}
    try:
        raw = client.chat.completions.with_raw_response.create(**kwargs)
        resp = raw.parse()
        u = resp.usage
        d = getattr(u, "completion_tokens_details", None)
        row.update(
            status=200,
            request_id=raw.headers.get("x-request-id"),
            prompt_tokens=u.prompt_tokens,
            cached_tokens=getattr(getattr(u, "prompt_tokens_details", None), "cached_tokens", 0) or 0,
            reasoning_tokens=(getattr(d, "reasoning_tokens", 0) or 0) if d else 0,
            completion_tokens=u.completion_tokens,
            cost_usd=round(call_cost(kwargs["model"], u), 6),
        )
        return resp
    except Exception as e:
        row.update(status=getattr(e, "status_code", "error"),
                   request_id=getattr(getattr(e, "response", None), "headers", {}).get("x-request-id"))
        raise
    finally:
        row["latency_ms"] = int((time.perf_counter() - t0) * 1000)
        log.info("llm_call", extra={"llm": row})
```

`with_raw_response` memberi Anda akses ke header, sehingga Anda bisa menyimpan `X-Request-ID`. Untuk panggilan streaming, tambahkan `stream_options={"include_usage": True}` dan isi baris log dari chunk terakhir, seperti ditunjukkan di [artikel streaming SSE](https://broadrouter.com/id/blog/llm-streaming-sse-explained/). Jaga `HASH_KEY` tetap rahasia dan stabil: pengguna yang sama selalu dipetakan ke hash yang sama, tetapi hash tidak bisa dibalik tanpa kuncinya.

## Bagaimana mengatribusikan biaya ke pengguna dan fitur?

Dengan baris-baris di atas di penyimpanan SQL mana pun, atribusi cukup dengan satu kueri:

```sql
SELECT feature, model,
       count(*)                          AS calls,
       sum(cost_usd)                     AS cost,
       sum(cached_tokens)::float / nullif(sum(prompt_tokens), 0) AS cache_rate,
       avg(completion_tokens)            AS avg_out
FROM llm_calls
WHERE ts >= now() - interval '7 days'
GROUP BY feature, model
ORDER BY cost DESC;
```

Ganti `feature` dengan `user_hash` atau `tenant` untuk biaya per pelanggan. Tiga analisis lanjutan cepat membuahkan hasil:

1.  **1% pengguna teratas berdasarkan biaya.** Sering kali satu loop atau bot. `cache_rate` yang menurun adalah peringatan dini lainnya; [kalkulator prompt caching](https://broadrouter.com/tools/prompt-caching-calculator/) menunjukkan nilai setiap poin cache rate.
2.  **Biaya per hasil yang berhasil**, bukan per panggilan: gabungkan dengan event keberhasilan Anda sendiri.
3.  **Porsi retry.** Baris dengan status 429 atau 5xx menunjukkan berapa yang Anda habiskan untuk kegagalan; lihat [menangani error 429](https://broadrouter.com/id/blog/handle-llm-api-429-rate-limits/).

## Bagaimana menjauhkan PII dari log LLM?

Log yang paling aman sama sekali tidak berisi teks prompt. Ketika Anda membutuhkan teks, untuk debugging atau evaluasi, ikuti langkah-langkah ini secara berurutan:

1.  **Ambil sampel.** Simpan teks hanya untuk sebagian kecil panggilan dan untuk kegagalan, bukan untuk semuanya.
2.  **Redaksi sebelum menulis.** Jalankan redaksi di proses yang menulis log. Meredaksi belakangan berarti teks mentah sudah tersimpan di disk dan backup.
3.  **Lapisi detektornya.** Regex untuk data terstruktur, tool NER untuk nama dan alamat.
4.  **Simpan terpisah.** Taruh teks di tabel atau bucket lain dengan akses lebih ketat dan masa simpan singkat, dihubungkan lewat `request_id`.
5.  **Jangan pernah mencatat rahasia.** OWASP logging cheat sheet mencantumkan access token, kata sandi, dan kunci enkripsi di antara data yang harus dikecualikan; [kunci API](https://broadrouter.com/id/glossary/api-key/) termasuk dalam daftar itu.

Lapisan regex minimal:

```python
import re
PATTERNS = [
    (re.compile(r"[\w.+-]+@[\w-]+\.[\w.-]+"), "[EMAIL]"),
    (re.compile(r"\+?\d[\d\s().-]{7,}\d"), "[PHONE]"),
    (re.compile(r"\b(?:\d[ -]?){13,19}\b"), "[CARD]"),
    (re.compile(r"\b(sk|key|bearer)[-_ ]?[A-Za-z0-9]{16,}\b", re.I), "[SECRET]"),
]
def redact(text: str) -> str:
    for pat, label in PATTERNS:
        text = pat.sub(label, text)
    return text
```

Ini menangkap kasus yang jelas dan melewatkan nama, alamat, dan apa pun yang tidak biasa. [Microsoft Presidio](https://github.com/microsoft/presidio) menambahkan pengenalan entitas untuk hal-hal itu, dan README-nya terus terang menyebut tidak ada jaminan bahwa ia akan menemukan semua informasi sensitif. Rencanakan untuk hal yang terlewat: masa simpan singkat dan akses yang ketat membatasi kerusakan ketika ada yang lolos.

## Di mana posisi BroadNet Inference?

BroadNet Inference mengembalikan blok usage beserta token cache dan penalaran jika model melaporkannya, `X-Request-ID` di setiap respons, dan file harga publik yang bisa Anda muat untuk menghitung biaya. Di sisinya, prompt dan jawaban diproses untuk permintaan itu dan tidak disimpan; BroadNet hanya menyimpan catatan tanpa konten seperti waktu, jumlah token, dan biaya ([cara kerja zero data retention](https://broadrouter.com/id/privacy/)). Itu menjadikan log Anda sendiri satu-satunya salinan teks prompt, sehingga aturan redaksi di atas menentukan masa simpan Anda yang sebenarnya. Permintaan chat BroadNet tidak memiliki field metadata per pengguna, jadi atribusi berada di wrapper Anda. Untuk anggaran terpisah per tim, gunakan kunci terpisah; [panduan kunci](https://broadrouter.com/id/guides/api-keys-ip-allow-lists/) membahas label dan allow-list.

Alat gratis untuk topik ini (bahasa Inggris)

-   [OpenAI to BroadNet migration helper](https://broadrouter.com/tools/openai-to-broadnet-migration/) Paste OpenAI SDK code; get base URL, key and model edits, a diff and the checks that remain.
-   [max\_tokens calculator for reasoning models](https://broadrouter.com/tools/reasoning-token-budget/) Answer length + reasoning budget + margin = a max\_tokens that does not cut the answer off.
-   [JSON schema generator for LLM structured output](https://broadrouter.com/tools/json-schema-generator/) Sample JSON to strict schema, Pydantic, Zod and a ready request.
-   [LLM JSON output validator](https://broadrouter.com/tools/llm-json-output-validator/) Parse errors by line and column, safe repairs, cut-off detection and JSON Schema checks for model output.

[Alat gratis (bahasa Inggris)](https://broadrouter.com/tools/)

## Istilah dalam artikel ini

[Token](https://broadrouter.com/id/glossary/token/)

Token adalah satuan teks yang dibaca dan ditulis model bahasa: sebuah kata, bagian kata, tanda baca, atau urutan byte yang dihasilkan tokenizer model. API LLM menghitung, membatasi, dan biasanya menagih pemakaian dalam token.

[Token input cache (cached input tokens)](https://broadrouter.com/id/glossary/cached-input-tokens/)

Token input cache adalah token prompt yang baru saja diproses penyedia LLM dan bisa dipakai ulang dari cache alih-alih dihitung lagi, biasanya prefiks berulang seperti system prompt atau dokumen. Penyedia menagihnya dengan tarif lebih rendah daripada token input baru.

[Streaming (respons streaming)](https://broadrouter.com/id/glossary/streaming/)

Streaming adalah cara mengembalikan respons model bahasa dalam potongan-potongan kecil selagi masih dihasilkan, bukan sebagai satu balasan utuh di akhir. API yang kompatibel dengan OpenAI melakukan streaming lewat server-sent events jika permintaan mengatur stream ke true.

[PII (personally identifiable information)](https://broadrouter.com/id/glossary/pii/)

PII (personally identifiable information) adalah informasi yang bisa dipakai untuk membedakan atau melacak identitas seseorang, seperti nama, nomor identitas, atau data biometrik, ditambah informasi lain yang terkait atau bisa dikaitkan dengan orang tersebut. Istilah GDPR yang lebih luas adalah data pribadi. Dalam kerja LLM, redaksi PII menghapusnya dari prompt sebelum keluar dari sistem Anda.

[Zero data retention (ZDR)](https://broadrouter.com/id/glossary/zero-data-retention/)

Zero data retention (ZDR) adalah kebijakan penanganan data di mana penyedia AI memproses prompt dan output hanya untuk melayani permintaan dan tidak menyimpan konten itu sesudahnya, baik di log, cache, maupun data pelatihan. Catatan tanpa konten seperti jumlah token dan durasi biasanya tetap disimpan.

[Kunci API (API key)](https://broadrouter.com/id/glossary/api-key/)

Kunci API adalah string rahasia yang mengidentifikasi dan mengotorisasi client yang memanggil API. API LLM biasanya mengharapkannya di header Authorization: Bearer, dan siapa pun yang memegang kunci itu bisa membuat permintaan yang ditagihkan ke akun pemiliknya.

[Named entity recognition (NER, pengenalan entitas bernama)](https://broadrouter.com/id/glossary/named-entity-recognition/)

Named entity recognition (NER) adalah tugas menemukan nama dalam teks dan memberi label jenis pada masing-masing, seperti orang, organisasi, atau lokasi. Sistem klasik memberi tag pada setiap token; LLM biasanya diminta mengembalikan daftar entitas dalam JSON, yang lalu dicek terhadap teks sumber.

[Rate limit (batas laju)](https://broadrouter.com/id/glossary/rate-limit/)

Rate limit adalah batas yang diterapkan API pada seberapa banyak client boleh memakainya dalam rentang waktu tertentu, misalnya permintaan per menit atau token per menit. Permintaan yang melebihi batas ditolak, biasanya dengan HTTP 429 Too Many Requests, sampai pemakaian kembali di bawah batas.

## Pertanyaan umum

### Bagaimana cara melacak biaya API LLM per pengguna?

Tandai setiap panggilan dengan identifier pengguna, baca blok usage dari respons, kalikan jumlah token dengan tabel harga Anda, lalu tulis satu baris log per panggilan. Kelompokkan berdasarkan tanda pengguna. Gunakan ID yang di-hash, bukan email.

### Apakah saya perlu mencatat prompt dan respons secara lengkap?

Tidak secara default. Di situlah data pribadi berada. Catat jumlah token dan metadata untuk setiap panggilan, dan simpan teks lengkap hanya untuk panggilan sampel atau yang gagal, setelah diredaksi, dengan masa simpan yang singkat.

### Mengapa biaya yang saya hitung berbeda dari invoice penyedia?

Biasanya karena token cache dihargai sebagai input baru, token penalaran tidak dimasukkan ke output, atau retry tidak dicatat. Catat setiap percobaan, termasuk yang gagal tetapi mengembalikan usage.

### Bagaimana mendapatkan pemakaian token dari respons streaming?

Tetapkan include\_usage di stream\_options menjadi true. Chunk terakhir kemudian membawa blok usage dengan daftar choices yang kosong.

### Tool redaksi PII apa yang sebaiknya dipakai untuk log LLM?

Mulailah dengan regex untuk data terstruktur seperti email, nomor telepon, dan nomor kartu, lalu tambahkan tool berbasis NER seperti Microsoft Presidio untuk nama dan alamat. README Presidio sendiri menyebut bahwa ia tidak bisa menjamin menemukan semuanya.

## Baca juga

-   [API LLM zero data retention: checklist 10 pertanyaan](https://broadrouter.com/id/blog/zero-data-retention-llm-api-checklist/)
-   [Token input cache: cara memangkas tagihan API LLM](https://broadrouter.com/id/blog/cached-input-tokens-explained/)
-   [Cara mengatasi error 429 API LLM: backoff, jitter, dan limiter](https://broadrouter.com/id/blog/handle-llm-api-429-rate-limits/)
-   [Penjelasan streaming LLM: chunk SSE, delta, usage, dan pembatalan](https://broadrouter.com/id/blog/llm-streaming-sse-explained/)
-   [Cache respons API LLM untuk memangkas biaya: exact cache di Python](https://broadrouter.com/id/blog/cache-llm-responses-cut-cost/)
-   [Hardware GPU dan pendekatan serving BroadNet, menurut BroadNet](https://broadrouter.com/id/blog/broadnet-gpu-fleet-and-serving/)
-   [Jadikan review manusia bagian dari workflow AI dokumen Anda](https://broadrouter.com/id/blog/document-review-queues/)
-   [Panduan: Memakai OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/id/guides/openai-python-sdk/)
-   [Panduan: Streaming chat completions dan menangani koneksi terputus](https://broadrouter.com/id/guides/streaming-chat-completions/)
-   [Panduan: Batasi kunci API ke server Anda dengan IP allow-list](https://broadrouter.com/id/guides/api-keys-ip-allow-lists/)

Coba dengan beban kerja Anda yang sebenarnya. Akun baru mendapat kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM, dan Qwen3.8 memerlukan top up.

[Mulai](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-llm-api-usage-logging&utm_content=page-cta) ·

**Sumber**

-   [Referensi API BroadNet Inference, field usage, request ID, dan penyimpanan data (bahasa Inggris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-llm-api-usage-logging&utm_content=sources)
-   [Harga BroadNet Inference yang dapat dibaca mesin (pricing.json) (bahasa Inggris)](https://inference.broadnet.ai/pricing.json?utm_source=broadrouter&utm_medium=referral&utm_campaign=id-blog-llm-api-usage-logging&utm_content=sources)
-   [OWASP Logging Cheat Sheet, data yang harus dikecualikan dari log](https://cheatsheetseries.owasp.org/cheatsheets/Logging_Cheat_Sheet.html)
-   [README Microsoft Presidio, deteksi PII dan batasannya (diakses 2026-11-14)](https://github.com/microsoft/presidio)
-   [README openai-python, membaca header respons dengan with\_raw\_response](https://github.com/openai/openai-python)
