---
title: "OpenAI Python SDK với base_url tùy chỉnh (BroadNet) | BroadRouter"
description: "Trỏ OpenAI Python SDK chính thức tới BroadNet Inference chỉ bằng cách đổi base_url. Cài đặt, đặt key, gửi request đầu tiên và stream câu trả lời."
url: https://broadrouter.com/vi/guides/openai-python-sdk/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/guides/openai-python-sdk/) (cập nhật ngày 2026-11-16).

# Dùng OpenAI Python SDK với BroadNet Inference

Cập nhật 2026-11-16

Để dùng OpenAI Python SDK với BroadNet Inference, hãy cài gói openai rồi tạo client với base\_url là https://inference.broadnet.ai/v1 và api\_key là key BroadNet của bạn. Mọi lệnh gọi chat.completions vẫn chạy nguyên như cũ; chỉ model ID thay đổi, ví dụ broadnet/deepseek-v4.1-flash. BroadNet cung cấp chat completions và transcriptions, không có Responses API.

Bạn cần một tài khoản BroadNet Inference và một inference key. Tài khoản mới được tặng $5 tín dụng ban đầu, không cần thẻ; [tạo tài khoản tại inference.broadnet.ai](https://inference.broadnet.ai/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-openai-python-sdk&utm_content=body). Console chỉ hiển thị key một lần và chỉ lưu giá trị hash của nó, nên hãy sao chép key thẳng vào biến môi trường.

## 1\. Cài đặt và đặt key

Gói `openai` hiện tại (3.x) cần Python 3.10 trở lên.

```bash
python -m pip install openai
export BROADNET_API_KEY='paste-the-key-once'
```

## 2\. Gửi request đầu tiên

Lưu đoạn sau thành `first_request.py`:

```python
from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Reply with one short sentence."}],
)
print(response.choices[0].message.content)
```

Chạy bằng `python first_request.py`. Ví dụ này dùng `broadnet/gemma-4-26b-a4b` vì model này chạy được bằng tín dụng miễn phí. Các model chat khác dùng được sau khi nạp tiền.

## 3\. Chuyển sang model bạn cần

Chỉ đổi `model`:

| Bạn cần | Model ID |
| --- | --- |
| Không giới hạn với gói giá cố định, context 1M | `broadnet/deepseek-v4.1-flash` |
| Tools và structured output, context 1M | `broadnet/glm-5.3` |
| Văn bản và hình ảnh tiếng Ả Rập | `broadnet/qwen3.8-27b` |
| Giá thấp, chạy được bằng tín dụng miễn phí | `broadnet/gemma-4-26b-a4b` |

DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước khi trả lời, và phần suy luận được tính vào `max_tokens`. Hãy cho chúng 1.000 token trở lên. [Đây là lý do giới hạn nhỏ trả về câu trả lời trống](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).

## 4\. Stream câu trả lời

```python
stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash",
    stream=True,
    stream_options={"include_usage": True},
    messages=[{"role": "user", "content": "Count from one to three."}],
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        print("\n", chunk.usage)
```

Khi có `include_usage`, số token đến trong chunk cuối cùng, và chunk này không có `choices`. [Hướng dẫn streaming](https://broadrouter.com/vi/guides/streaming-chat-completions/) trình bày cách xử lý khi kết nối bị ngắt.

## 5\. Giữ lại request ID

Mọi phản hồi đều có header `X-Request-ID`. Hãy ghi log giá trị này: bộ phận hỗ trợ của BroadNet sẽ hỏi đến nó. Phản hồi đã parse cung cấp nó dưới dạng `response._request_id`. Để đọc nó cùng các header khác:

```python
raw = client.chat.completions.with_raw_response.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Hi"}],
)
print(raw.headers.get("x-request-id"))
response = raw.parse()
```

Key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đồng thời. [Ý nghĩa của từng mã lỗi và khi nào nên thử lại](https://broadrouter.com/vi/guides/errors-and-retries/).

## Xử lý sự cố

-   **`AuthenticationError` (401).** Key sai, đã hết hạn hoặc đã hết hạn mức trả theo mức dùng. Hãy kiểm tra xem `BROADNET_API_KEY` đã được đặt trong tiến trình chạy code của bạn chưa.
-   **`NotFoundError` (404).** Kiểm tra rằng `base_url` kết thúc bằng `/v1` và bạn gọi `chat.completions`, không phải `responses`. Sau đó kiểm tra model ID, có tiền tố `broadnet/`.
-   **Model trả phí báo lỗi trên tài khoản mới.** $5 tín dụng ban đầu dùng được cho BroadNet Gemma 4 VL 26B (`broadnet/gemma-4-26b-a4b`) và hai model BroadNet Transcribe. Hãy nạp tiền để dùng các model chat khác: DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B.
-   **`content` trống.** Phần suy luận được tính vào `max_tokens`. Hãy tăng lên 1.000 hoặc hơn. [Vì sao câu trả lời trả về trống](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).
-   **`RateLimitError` (429).** Bạn đã vượt giới hạn mỗi phút hoặc giới hạn đồng thời. Theo mặc định SDK thử lại hai lần; đặt `max_retries` trên client để thay đổi.
-   **Lỗi HTTP client tùy chỉnh sau khi nâng cấp.** SDK 3.x dùng HTTPX2. Nếu bạn truyền `http_client` của riêng mình, hãy làm theo hướng dẫn chuyển đổi sang HTTPX2 của SDK.

## Thuật ngữ trong hướng dẫn này

[Trả theo mức dùng (pay-as-you-go)](https://broadrouter.com/vi/glossary/pay-as-you-go/)

Trả theo mức dùng (pay-as-you-go) là mô hình giá mà bạn chỉ trả cho những gì đã dùng, đo theo đơn vị như token, request hoặc phút âm thanh, không có gói đăng ký hay cam kết tối thiểu. Hầu hết API LLM tính phí theo cách này, trừ vào số dư trả trước hoặc qua hóa đơn định kỳ.

[Concurrency (request đồng thời)](https://broadrouter.com/vi/glossary/concurrency/)

Concurrency (request đồng thời) là số request mà một client đang xử lý cùng lúc. Các API LLM thường giới hạn nó theo key hoặc theo gói, tách biệt với số request mỗi phút, vì mỗi request đang mở chiếm dụng năng lực GPU cho tới khi response kết thúc.

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[Đầu ra có cấu trúc (structured output)](https://broadrouter.com/vi/glossary/structured-output/)

Đầu ra có cấu trúc (structured output) là tính năng của API LLM buộc câu trả lời của model theo định dạng do lập trình viên chỉ định, thường là JSON Schema, để code parse được tin cậy. Nó chặt hơn JSON mode, vốn chỉ đảm bảo JSON hợp lệ chứ không đảm bảo một cấu trúc cụ thể.

[Giới hạn tần suất (rate limit)](https://broadrouter.com/vi/glossary/rate-limit/)

Giới hạn tần suất (rate limit) là mức trần mà API đặt ra cho lượng sử dụng của một client trong một khoảng thời gian, như số request mỗi phút hoặc số token mỗi phút. Request vượt giới hạn bị từ chối, thường với HTTP 429 Too Many Requests, cho đến khi mức dùng giảm xuống dưới giới hạn.

[API key (khóa API)](https://broadrouter.com/vi/glossary/api-key/)

API key là một chuỗi bí mật dùng để xác định và cấp quyền cho client gọi API. API LLM thường yêu cầu nó trong header Authorization: Bearer, và bất kỳ ai giữ key đều có thể gửi request được tính phí vào tài khoản sở hữu key đó.

[Streaming (trả phản hồi dạng luồng)](https://broadrouter.com/vi/glossary/streaming/)

Streaming là cách trả phản hồi của model ngôn ngữ thành từng chunk nhỏ ngay trong lúc nó đang được sinh, thay vì một câu trả lời trọn vẹn ở cuối. Các API tương thích OpenAI stream qua server-sent events khi request đặt stream là true.

[Tool calling (gọi tool, function calling)](https://broadrouter.com/vi/glossary/tool-calling/)

Tool calling, còn gọi là function calling, là tính năng của API LLM trong đó model trả về một yêu cầu có cấu trúc để chạy một hàm do nhà phát triển định nghĩa, kèm đối số JSON. Ứng dụng chạy hàm rồi gửi kết quả lại; model không bao giờ tự chạy code.

## Câu hỏi thường gặp

### Tôi có cần một SDK khác không?

Không. BroadNet Inference dùng đúng cấu trúc chat completions và audio transcriptions của OpenAI, nên gói openai chính thức chạy được chỉ với một base\_url khác.

### Tôi có thể tiếp tục dùng OPENAI\_API\_KEY không?

Có thể, nhưng một biến BROADNET\_API\_KEY riêng giúp tránh vô tình gửi key của nhà cung cấp này sang nhà cung cấp khác.

### SDK có đọc OPENAI\_BASE\_URL không?

Có. Nếu bạn không truyền base\_url, client sẽ dùng OPENAI\_BASE\_URL. Đặt biến này thành https://inference.broadnet.ai/v1 và đặt OPENAI\_API\_KEY là key BroadNet của bạn, khi đó OpenAI() không cần tham số nào.

### Có dùng client.responses.create với BroadNet được không?

Không. README của SDK giới thiệu Responses API trước tiên, nhưng tài liệu của BroadNet chỉ liệt kê chat completions và audio transcriptions. Hãy dùng client.chat.completions.create.

## Hướng dẫn liên quan

-   [Dùng OpenAI Node.js SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-node-sdk/)
-   [Streaming chat completions và xử lý khi mất kết nối](https://broadrouter.com/vi/guides/streaming-chat-completions/)
-   [Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Mã lỗi BroadNet Inference và khi nào nên thử lại](https://broadrouter.com/vi/guides/errors-and-retries/)

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-openai-python-sdk&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu tham chiếu API BroadNet Inference, request đầu tiên (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-openai-python-sdk&utm_content=sources#base-url)
-   [Thư viện OpenAI Python trên PyPI (3.x, Python 3.10 trở lên, kiểm tra ngày 2026-11-14)](https://pypi.org/project/openai/)
