BroadRouter
Bắt đầu

Giá API LLM: cách tính token đầu vào, cache, đầu ra và suy luận

Đội ngũ BroadNet Inference · 6 phút đọc · Đăng ngày · Cập nhật

API LLM tính phí theo mỗi triệu token, với giá riêng cho đầu vào, đầu vào từ cache và đầu ra. Token suy luận tính như đầu ra, hình ảnh tính là token đầu vào, còn chuyển giọng nói thành văn bản tính theo phút. Trên BroadNet Inference, DeepSeek V4.1 Flash có giá $0.175 đầu vào, $0.0055 cache và $0.52 đầu ra cho 1 triệu token.

A stream of tokens flowing into the words "Ideas become answers."

API LLM tính phí theo mỗi triệu token trên các đồng hồ đo riêng: đầu vào mới, đầu vào từ cache và đầu ra. Token suy luận tính như đầu ra, hình ảnh tính là token đầu vào, còn chuyển giọng nói thành văn bản tính theo phút âm thanh. Bài viết này giải thích từng loại, rồi tính giá các request thực tế bằng bảng giá công khai của BroadNet Inference, đồng bộ ngày 2026-11-14.

Thực ra bạn đang trả tiền cho cái gì?

Một token là một đoạn văn bản, thường dài vài ký tự. Theo đo đạc của chính BroadRouter trên năm tokenizer, 1.000 từ tiếng Anh tương đương khoảng 1,290 token; quy tắc ước lượng của OpenAI là khoảng 75 từ cho mỗi 100 token. Các ngôn ngữ khác thì khác; hãy dán văn bản của bạn vào công cụ đếm token miễn phí để xem con số thực. Mỗi request báo cáo số token trong khối usage, và hóa đơn là tổng của các mục sau:

Đồng hồ đo Đếm cái gì Tính theo giá
Đầu vào (prompt) System prompt, lịch sử hội thoại, tài liệu, định nghĩa công cụ, hình ảnh Giá đầu vào
Đầu vào từ cache Phần đầu vào nhà cung cấp đã xử lý và dùng lại Giá cache, thấp hơn nhiều
Đầu ra (completion) Câu trả lời hiển thị cộng với phần suy luận Giá đầu ra
Phút âm thanh Độ dài âm thanh gửi đi để chép lời Giá mỗi phút

Cách chia token đầu vào và đầu ra là quan trọng nhất, vì hai mức giá cách nhau rất xa.

Mỗi model có giá bao nhiêu cho mỗi token?

Giá BroadNet Inference, trên 1 triệu token:

Model Đầu vào Đầu vào từ cache Đầu ra Context
DeepSeek V4.1 Flash $0.175 $0.0055 $0.52 1.048.576
GLM 5.3 $0.78 $0.173 $3.46 1.048.576
Qwen3.8 27B $0.175 $0.0435 $2.17 262.144
Gemma 4 VL 26B $0.10 Không giảm giá cache $0.22 32.768

Hai quy luật đúng với bảng giá này và với hầu hết các bảng giá khác. Đầu ra đắt hơn đầu vào, từ khoảng gấp đôi với Gemma 4 VL 26B đến hơn mười lần với Qwen3.8 27B. Đầu vào từ cache chỉ tốn một phần nhỏ so với đầu vào mới. Để so sánh các mức giá này với OpenAI, Anthropic, Google và các nhà cung cấp khác, hãy xem bảng giá API LLM. Để xem trung vị toàn thị trường, mức chênh giữa các nhà cung cấp và tỷ lệ đầu ra so với đầu vào của mọi model chúng tôi theo dõi, hãy xem chỉ số giá API LLM (CSV và JSON mở).

Vì sao đầu ra đắt hơn đầu vào?

Model đọc toàn bộ prompt của bạn trong một lượt xử lý song song. Còn câu trả lời được viết từng token một, và mỗi token mới cần thêm một lượt xử lý. Vì vậy đầu ra tốn nhiều thời gian GPU hơn cho mỗi token, và giá phản ánh điều đó. Một prompt ngắn với câu trả lời dài có thể tốn nhiều hơn một prompt dài với câu trả lời ngắn.

Token đầu vào từ cache được tính phí thế nào?

Khi phần đầu prompt của bạn trùng với một request gần đây, nhà cung cấp có thể dùng lại phần việc đã làm. Các token đầu vào từ cache đó xuất hiện trong prompt_tokens_details.cached_tokens và được tính theo giá cache. Với DeepSeek V4.1 Flash, đó là $0.0055 thay vì $0.175 cho 1 triệu token.

Cache có lợi cho prompt có phần đầu ổn định: system prompt, danh sách công cụ và tài liệu đặt trước, tin nhắn mới đặt cuối cùng. Agent gửi lại cùng một repository ở mỗi lượt được lợi nhiều nhất. Để biết từng nhà cung cấp tính phí đọc và ghi cache ra sao, hãy xem giải thích về token đầu vào từ cache; để mô phỏng tỷ lệ cache của riêng bạn, hãy dùng công cụ tính prompt caching.

Vì sao model suy luận tính nhiều token đầu ra hơn những gì bạn thấy?

DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy nghĩ trước khi trả lời. Phần suy nghĩ đó là token suy luận. Bạn không thấy chúng trong câu trả lời, nhưng chúng được đếm trong completion_tokens và tính theo giá đầu ra. Hướng dẫn suy luận của OpenAI mô tả cùng quy tắc cho các model của họ: token suy luận “are billed as output tokens” (bản dịch: được tính phí như token đầu ra).

Phần suy luận cũng được tính vào max_tokens. Đặt giá trị này quá thấp thì bạn trả tiền cho phần suy nghĩ mà không nhận được câu trả lời. Xem vì sao câu trả lời trả về rỗng và cách giữ chi phí suy luận ở mức thấp.

Hình ảnh và âm thanh được tính giá thế nào?

Hình ảnh. Một model vision chuyển hình ảnh thành token đầu vào. Bạn trả giá đầu vào cho chúng, và ảnh càng lớn càng dùng nhiều token. BroadNet không thu phí riêng cho mỗi ảnh. So sánh chi phí mỗi ảnh.

Âm thanh. Chuyển giọng nói thành văn bản được tính theo độ dài âm thanh, không theo token:

Model Mỗi phút Mỗi giờ âm thanh
BroadNet Transcribe Arabic $0.0042 $0.25
BroadNet Transcribe (14 ngôn ngữ) $0.002 $0.12

Một request thực tế tốn bao nhiêu? Ví dụ tính toán

Các ví dụ dưới đây dùng DeepSeek V4.1 Flash. Mỗi ví dụ được chọn để tổng số token tròn hàng triệu, giúp bạn dễ kiểm tra phép tính.

  1. Một tính năng chat. 500 request, mỗi request 2.000 token đầu vào và 2.000 token đầu ra, dùng 1 triệu token đầu vào và 1 triệu token đầu ra. Chi phí: $0.175 cộng $0.52.
  2. Một agent đọc lại context. Mười lượt, mỗi lượt gửi cùng một context 100.000 token, cộng lại thành 1 triệu token đầu vào. Nếu không phần nào được cache, chi phí là $0.175. Nếu toàn bộ được cache thì chi phí sẽ là $0.0055, nhưng lượt đầu tiên không có gì để dùng lại, nên hãy coi đó là mức thấp nhất: tối đa 900.000 token được tính theo giá cache, còn 100.000 token đầu tiên tính theo giá đầu vào.
  3. Suy luận ẩn. 1.000 câu trả lời có 200 token hiển thị, mỗi câu kèm 800 token suy luận, bị tính 1 triệu token đầu ra: $0.52. Chỉ một phần năm trong đó là văn bản bạn thấy.
  4. Chép lời. 1.000 giờ âm thanh tiếng Ả Rập tốn $252.00. 10.000 tin nhắn thoại dài 30 giây tốn $21.00.

Công thức chung:

cost = new_input/1M × input_price
     + cached_input/1M × cached_price
     + output/1M × output_price      (output includes reasoning)

Để tính các con số này cho lưu lượng của riêng bạn, hãy dùng công cụ tính chi phí API LLM miễn phí. Để dự báo đầy đủ cho một tính năng mới, hãy xem cách ước tính chi phí API LLM trước khi ra mắt.

Làm sao đọc con số thực từ một response?

Khi đã có traffic, đừng ước lượng từ số từ nữa. Hãy đọc trực tiếp:

import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
r = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    messages=[{"role": "user", "content": "Summarise this ticket in one line: ..."}],
)
u = r.usage
details = u.prompt_tokens_details  # can be None when the model reports no cache data
cached = (details.cached_tokens or 0) if details else 0
print(u.prompt_tokens, cached, u.completion_tokens)

Khi dùng streaming, hãy thêm stream_options={"include_usage": True} để chunk cuối cùng mang theo usage. Hướng dẫn streaming.

Còn những mô hình tính giá nào khác?

Tính theo token không phải lựa chọn duy nhất:

  • Gói giá cố định. Một gói giá cố định tính tiền theo thời gian, không theo token. Gói Full Moon của BroadNet có giá $60 mỗi tháng cho mỗi phiên, dùng DeepSeek V4.1 Flash không giới hạn, một request tại một thời điểm. Orbit có giá $15 mỗi tuần, Meteor $1 mỗi giờ.
  • Key theo giờ. Với $0.50, bạn mua một giờ dùng Gemma 4 VL 26B trên một luồng. Giải thích về key theo giờ.
  • Batch và GPU chuyên dụng. Một số nhà cung cấp giảm giá cho job batch chạy qua đêm hoặc cho thuê nguyên GPU theo giờ. Cách các nhà cung cấp khác định giá model mở.

Khi nào gói cố định rẻ hơn tính theo token phụ thuộc vào khối lượng sử dụng và tỷ lệ cache. Để xem lần lượt mọi cách tiết kiệm, từ cache đến giảm giá batch, hãy đọc cách giảm chi phí API LLM.

Giá theo token cũng thay đổi theo thời gian, theo cả hai chiều. Trong các trang giá được lưu trữ của 11 nhà cung cấp, 80% model chưa từng đổi giá. Trên các model có đổi giá, chúng tôi ghi nhận tổng cộng 100 lần giảm giá và 52 lần tăng giá, mỗi lần là giá của một model so với giá trước đó của chính model ấy. Xem giá API LLM thay đổi thường xuyên đến mức nào và những lần giảm giá API LLM lớn nhất, kèm nguồn.

BroadNet Inference phù hợp với ai?

BroadNet công bố một bảng giá chung cho mọi model họ phục vụ, trong một tệp máy đọc được mà trang giá của website này đọc. Tài khoản mới bắt đầu với $5 tín dụng; Gemma 4 VL 26B và cả hai model chép lời dùng được bằng khoản này, còn các model chat khác cần nạp tiền. Đây là lựa chọn phù hợp nếu bạn muốn cả giá theo token lẫn giá cố định trên cùng một tài khoản; các gói có key riêng. Đây không phải nơi dành cho các model đóng hàng đầu: BroadNet chỉ phục vụ model open-weight và các bản build riêng của mình.

Câu hỏi thường gặp

Giá API LLM được tính như thế nào?

Nhân số token đầu vào với giá đầu vào, token đầu vào từ cache với giá cache và token đầu ra với giá đầu ra, đều tính trên 1 triệu token, rồi cộng lại. Token suy luận nằm trong phần đầu ra.

Vì sao token đầu ra đắt hơn token đầu vào?

Model đọc đầu vào trong một lượt xử lý song song, nhưng sinh đầu ra từng token một, nên mỗi token đầu ra tốn nhiều thời gian GPU hơn. Nhà cung cấp tính chênh lệch đó vào giá.

Token suy luận có bị tính phí không?

Có, với key tính theo token. Chúng được báo cáo trong completion tokens và tính theo giá đầu ra, dù không hiện trong câu trả lời.

Một hình ảnh trong API LLM tốn bao nhiêu tiền?

Hình ảnh được chuyển thành token đầu vào, nên chi phí bằng số token nhân với giá đầu vào. Ảnh càng lớn càng tốn nhiều token. Hãy đọc prompt_tokens trong khối usage để biết con số thực.

Cách trả tiền rẻ nhất cho một agent chạy 24/7 là gì?

Thường là gói giá cố định. Trên BroadNet, một phiên Full Moon có giá $60 mỗi tháng để dùng DeepSeek V4.1 Flash không giới hạn, một request tại một thời điểm.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity