---
title: "Nhà cung cấp inference là gì? Giải thích về hosting LLM"
description: "Nhà cung cấp inference chạy model AI trên GPU của mình hoặc GPU thuê và bán quyền truy cập qua API. Khác gì với phòng lab model và router, và cần kiểm tra gì."
url: https://broadrouter.com/vi/glossary/inference-provider/
lang: vi
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/glossary/inference-provider/) (cập nhật ngày 2026-11-15).

# Nhà cung cấp inference (inference provider)

Cập nhật 2026-11-15

Nhà cung cấp inference là công ty chạy model học máy, thường là LLM open-weight, trên GPU sở hữu hoặc thuê, rồi bán quyền truy cập qua API, thường tính theo token, request hoặc thời gian. Họ lo phần phục vụ, mở rộng quy mô và phần cứng.

Còn gọi là: nhà cung cấp inference, nhà cung cấp API LLM, dịch vụ hosting LLM, nhà cung cấp hosting model, inference provider, LLM inference provider, LLM API provider, model hosting provider, AI inference provider

Khi một model open-weight được phát hành, vẫn phải có ai đó chạy nó. Nhà cung cấp inference là những công ty làm việc đó.

## Cách hoạt động

Nhà cung cấp nạp trọng số model lên GPU, chạy phần mềm phục vụ để gom request theo lô và quản lý bộ nhớ, rồi đặt một API phía trước. Hầu hết cung cấp [API tương thích OpenAI](https://broadrouter.com/vi/glossary/openai-compatible-api/), nên bạn đổi nhà cung cấp bằng cách đổi base URL, key và model ID.

Thuật ngữ này bao gồm một vài mô hình kinh doanh:

-   **Phòng lab model** tự phục vụ model của họ.
-   **Nhà host độc lập** phục vụ model open-weight từ nhiều phòng lab.
-   **Cloud** cho thuê GPU hoặc endpoint được quản lý, đôi khi tính theo [giờ GPU](https://broadrouter.com/vi/glossary/gpu-hour/).
-   **Nền tảng tổng hợp.** Inference Providers của Hugging Face cho truy cập “hundreds of machine learning models, powered by world-class inference providers” (Bản dịch: hàng trăm model học máy, được vận hành bởi các nhà cung cấp inference hàng đầu thế giới) chỉ qua một token. Một [router LLM](https://broadrouter.com/vi/glossary/llm-router/) cũng hoạt động theo cách tương tự.

Vì định dạng API giống nhau, cùng một đoạn code chạy được trên bất kỳ nhà cung cấp nào. Chỉ ba giá trị thay đổi:

```python
import os
from openai import OpenAI

msgs = [{"role": "user", "content": "Hello"}]
client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",          # the provider
    api_key=os.environ["BROADNET_API_KEY"],  # its key
)
client.chat.completions.create(model="broadnet/deepseek-v4.1-flash", messages=msgs)  # its model ID
```

Trong đoạn code trên, base\_url là nhà cung cấp, api\_key là key của nhà cung cấp đó và model là model ID của họ. Cách tính giá cũng khác nhau: theo token, theo phút âm thanh, theo giờ hoặc giá cố định theo phiên.

## Vì sao quan trọng

Chọn nhà cung cấp phần lớn là chọn những đánh đổi mà bạn không thấy được qua tên model:

-   **Xử lý dữ liệu.** Việc lưu giữ, ghi log và dùng để huấn luyện khác nhau giữa các bên. Hãy tìm chính sách [không lưu giữ dữ liệu](https://broadrouter.com/vi/glossary/zero-data-retention/) bằng văn bản.
-   **Nơi chạy.** Khu vực và bên xử lý phụ quan trọng với việc tuân thủ.
-   **Giới hạn.** Số request đồng thời, rate limit và độ dài context có thể thấp hơn mức tối đa của model.
-   **Cách phục vụ.** Độ chính xác số học và thiết lập phục vụ ảnh hưởng đến tốc độ và đôi khi cả đầu ra.
-   **Cách tính giá.** Cách tính phù hợp tùy vào lưu lượng của bạn; xem [so sánh giá các nhà cung cấp](https://broadrouter.com/vi/blog/llm-inference-provider-pricing-compared/).
-   **Mức giá.** Cùng một model mở có thể đắt gấp vài lần ở nhà cung cấp này so với nhà cung cấp khác. Xem [cùng model, khác nơi host](https://broadrouter.com/vi/blog/same-llm-different-host-prices/).

## Trên BroadNet Inference

BroadNet Inference là một nhà cung cấp inference. Tuyên bố quyền riêng tư của họ cho biết các model riêng và các model open-weight mà họ host “run on BroadNet-owned or leased hardware in the United States, with partner capacity as backup” (Bản dịch: chạy trên phần cứng BroadNet sở hữu hoặc thuê tại Hoa Kỳ, có năng lực của đối tác làm dự phòng), và các model do đối tác phục vụ chạy theo điều khoản không lưu giữ dữ liệu với các đối tác inference tại Hoa Kỳ. Nội dung request và phản hồi không được lưu giữ.

Họ cung cấp các model chat, gồm [DeepSeek V4.1 Flash](https://broadrouter.com/vi/models/deepseek-v4.1-flash/) và GLM 5.3, cùng hai model chuyển giọng nói thành văn bản qua API tương thích OpenAI tại `https://inference.broadnet.ai/v1`. Cách tính phí gồm trả theo mức dùng theo token hoặc theo phút âm thanh, key theo giờ, hoặc gói giá cố định cho DeepSeek V4.1 Flash. Hãy dùng [checklist chọn nhà cung cấp](https://broadrouter.com/vi/blog/choose-llm-api-provider-checklist/) để so sánh với các bên khác theo tiêu chí của riêng bạn.

## Câu hỏi thường gặp

### Nhà cung cấp inference khác gì với router LLM?

Nhà cung cấp tự chạy model trên phần cứng mà họ sở hữu, thuê dài hạn hoặc thuê ngắn hạn. Router chuyển request của bạn tới một trong nhiều nhà cung cấp qua một API và một hóa đơn. Có công ty làm cả hai.

### Hai nhà cung cấp cùng phục vụ một model mở có cho ra câu trả lời giống nhau không?

Không phải lúc nào cũng vậy. Độ chính xác số học, giới hạn context, thiết lập mặc định và phần mềm phục vụ có thể khác nhau, nên đầu ra cũng có thể khác. Hãy thử trên prompt của bạn trước khi chuyển.

### Làm sao để đổi nhà cung cấp inference?

Với API tương thích OpenAI, hãy đổi ba giá trị: base URL, API key và model ID. Sau đó chạy lại bộ đánh giá (eval), vì cùng một model có thể hoạt động khác trên nhà cung cấp khác.

## Xem thêm

-   [LLM router](https://broadrouter.com/vi/glossary/llm-router/) (thuật ngữ)
-   [Model trọng số mở (open-weight model)](https://broadrouter.com/vi/glossary/open-weight-model/) (thuật ngữ)
-   [API tương thích OpenAI (OpenAI-compatible API)](https://broadrouter.com/vi/glossary/openai-compatible-api/) (thuật ngữ)
-   [Serverless inference (suy luận serverless)](https://broadrouter.com/vi/glossary/serverless-inference/) (thuật ngữ)
-   [Không lưu giữ dữ liệu (zero data retention, ZDR)](https://broadrouter.com/vi/glossary/zero-data-retention/) (thuật ngữ)
-   [SLA (thỏa thuận mức dịch vụ, service level agreement)](https://broadrouter.com/vi/glossary/sla/) (thuật ngữ)
-   [Model deprecation (ngừng hỗ trợ model)](https://broadrouter.com/vi/glossary/model-deprecation/) (thuật ngữ)
-   [Gửi request đầu tiên tới BroadNet Inference bằng curl](https://broadrouter.com/vi/guides/curl-quickstart/) (hướng dẫn)
-   [Kết nối LiteLLM tới BroadNet Inference (SDK và proxy)](https://broadrouter.com/vi/guides/litellm-proxy-custom-provider/) (hướng dẫn)
-   [Cách chọn nhà cung cấp API LLM: checklist 20 điểm](https://broadrouter.com/vi/blog/choose-llm-api-provider-checklist/) (bài viết)
-   [So sánh giá API model mở: 6 nhà cung cấp inference tính phí ra sao](https://broadrouter.com/vi/blog/llm-inference-provider-pricing-compared/) (bài viết)
-   [Cùng model, khác nhà host: giá API LLM chênh nhau bao nhiêu](https://broadrouter.com/vi/blog/same-llm-different-host-prices/) (bài viết)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-inference-provider&utm_content=page-cta) ·

**Nguồn**

-   [Hugging Face, tài liệu Inference Providers](https://huggingface.co/docs/inference-providers/index)
-   [BroadNet, tuyên bố quyền riêng tư và lưu giữ dữ liệu của Inference API (nơi model chạy) (tiếng Anh)](https://www.broadnet.ai/inference-privacy)
-   [Tài liệu tham chiếu API BroadNet Inference (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-glossary-inference-provider&utm_content=sources)
