---
title: "LangChain ChatOpenAI với base_url tùy chỉnh | BroadRouter"
description: "Kết nối ChatOpenAI của LangChain với BroadNet Inference bằng base_url và api_key, và biết LangChain giữ lại gì, bỏ đi gì trong phản hồi của model suy luận."
url: https://broadrouter.com/vi/guides/langchain-openai-base-url/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/guides/langchain-openai-base-url/) (cập nhật ngày 2026-11-16).

# Dùng LangChain với BroadNet Inference

Cập nhật 2026-11-16

Cài langchain-openai rồi tạo ChatOpenAI với base\_url là https://inference.broadnet.ai/v1, api\_key là key BroadNet và một model ID như broadnet/glm-5.3. Khi đó invoke, stream và chain gọi tool đều chạy qua chat completions. Tránh các tính năng chỉ có ở Responses API, và chừa chỗ trong max\_tokens cho phần suy luận.

`ChatOpenAI` của LangChain nhận bất kỳ endpoint nào qua `base_url`. Cách này chạy được với BroadNet Inference vì BroadNet dùng cấu trúc chat completions chuẩn. Nếu bạn gọi API trực tiếp, hãy xem [hướng dẫn Python SDK](https://broadrouter.com/vi/guides/openai-python-sdk/).

## Cài đặt

Các bản `langchain-openai` hiện tại (1.x) cần Python 3.11 trở lên.

```bash
pip install -U langchain-openai
export BROADNET_API_KEY='paste-the-key-once'
```

## Kết nối

```python
import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="broadnet/glm-5.3",
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_tokens=2000,  # reasoning counts toward this limit
)

print(llm.invoke("Summarise the CAP theorem in two sentences.").content)
```

Như chú thích trong code, token suy luận cũng được tính vào giới hạn `max_tokens`.

`openai_api_base` là alias của `base_url`. Nếu không có cả hai, LangChain đọc `OPENAI_API_BASE`, rồi client `openai` bên dưới đọc `OPENAI_BASE_URL`.

## Những điều cần biết

-   **Văn bản suy luận không được giữ lại.** Tài liệu LangChain cho biết `ChatOpenAI` tuân theo đặc tả chính thức của OpenAI và không giữ các trường không chuẩn như `reasoning_content`. Bạn nhận được câu trả lời cuối cùng, và thường đó là thứ một chain cần.
-   **Chừa chỗ cho suy luận.** GLM 5.3, DeepSeek V4.1 Flash và Qwen3.8 27B suy luận trước. `max_tokens` nhỏ có thể khiến câu trả lời rỗng. [Vì sao câu trả lời trả về rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).
-   **Usage khi streaming.** Khi bạn cấu hình endpoint bằng `OPENAI_BASE_URL`, LangChain mặc định tắt `stream_usage`. Truyền `stream_usage=True` nếu muốn có số token khi streaming. Tài liệu BroadNet cho biết usage nằm trong chunk cuối nếu request yêu cầu.
-   **Chỉ dùng chat completions.** BroadNet phục vụ `/v1/chat/completions`, không có Responses API. Tài liệu LangChain cho biết `ChatOpenAI` chuyển sang Responses API khi bạn dùng tool có sẵn của OpenAI (web search, file search, code interpreter và tương tự), trạng thái hội thoại, hoặc tham số `reasoning`. Hãy bỏ những thứ đó, và đừng đặt `use_responses_api=True`.
-   **Tên tham số giới hạn token.** Tài liệu LangChain cho biết `max_tokens` được chuyển nội bộ thành `max_completion_tokens`. Tài liệu BroadNet mô tả `max_tokens`. Nếu giới hạn có vẻ bị bỏ qua, hãy kiểm tra request mà ứng dụng thực sự gửi đi.

## Model nào cho chain nào

| Chain | Model |
| --- | --- |
| Gọi tool và đầu ra có cấu trúc | `broadnet/glm-5.3` |
| Tài liệu dài và agent, gói không giới hạn | `broadnet/deepseek-v4.1-flash` |
| Văn bản tiếng Ả Rập hoặc hình ảnh | `broadnet/qwen3.8-27b` |

[Xem giá của mọi model](https://broadrouter.com/vi/pricing/).

## Xử lý sự cố

-   **401.** Key sai, đã hết hạn hoặc đã hết hạn mức trả theo mức dùng. Nếu bạn không truyền `api_key`, LangChain đã dùng `OPENAI_API_KEY`, biến này có thể đang chứa key OpenAI.
-   **404 hoặc “not found”.** Kiểm tra `base_url` kết thúc bằng `/v1` và không có gì chuyển lệnh gọi sang Responses API (xem ở trên). Sau đó kiểm tra model ID khớp chính xác với ID của BroadNet, kể cả tiền tố `broadnet/`. Model trả phí cần nạp tiền; $5 tín dụng ban đầu dùng được cho `broadnet/gemma-4-26b-a4b` và hai model Transcribe.
-   **`content` rỗng.** Phần suy luận đã dùng hết ngân sách. Hãy tăng `max_tokens`. [Vì sao câu trả lời trả về rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).
-   **Tool không bao giờ được gọi.** Hãy dùng `broadnet/glm-5.3` hoặc `broadnet/qwen3.8-27b`. Tài liệu BroadNet chỉ ghi hỗ trợ tool cho hai model này.
-   **429 trong chain chạy batch hoặc song song.** Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đồng thời. Với `batch()`, hãy đặt `max_concurrency` trong runnable config. Xem [mã lỗi và thử lại](https://broadrouter.com/vi/guides/errors-and-retries/).

## Thuật ngữ trong hướng dẫn này

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[Trả theo mức dùng (pay-as-you-go)](https://broadrouter.com/vi/glossary/pay-as-you-go/)

Trả theo mức dùng (pay-as-you-go) là mô hình giá mà bạn chỉ trả cho những gì đã dùng, đo theo đơn vị như token, request hoặc phút âm thanh, không có gói đăng ký hay cam kết tối thiểu. Hầu hết API LLM tính phí theo cách này, trừ vào số dư trả trước hoặc qua hóa đơn định kỳ.

[Chat Completions API](https://broadrouter.com/vi/glossary/chat-completions-api/)

Chat Completions API là endpoint HTTP của OpenAI, POST /v1/chat/completions, nhận tên model và danh sách message có gắn vai trò rồi trả về message tiếp theo của model. Cấu trúc request và response của nó đã trở thành định dạng chung mà các nhà cung cấp và SDK tương thích OpenAI dùng lại.

[Concurrency (request đồng thời)](https://broadrouter.com/vi/glossary/concurrency/)

Concurrency (request đồng thời) là số request mà một client đang xử lý cùng lúc. Các API LLM thường giới hạn nó theo key hoặc theo gói, tách biệt với số request mỗi phút, vì mỗi request đang mở chiếm dụng năng lực GPU cho tới khi response kết thúc.

[Giới hạn tần suất (rate limit)](https://broadrouter.com/vi/glossary/rate-limit/)

Giới hạn tần suất (rate limit) là mức trần mà API đặt ra cho lượng sử dụng của một client trong một khoảng thời gian, như số request mỗi phút hoặc số token mỗi phút. Request vượt giới hạn bị từ chối, thường với HTTP 429 Too Many Requests, cho đến khi mức dùng giảm xuống dưới giới hạn.

[Streaming (trả phản hồi dạng luồng)](https://broadrouter.com/vi/glossary/streaming/)

Streaming là cách trả phản hồi của model ngôn ngữ thành từng chunk nhỏ ngay trong lúc nó đang được sinh, thay vì một câu trả lời trọn vẹn ở cuối. Các API tương thích OpenAI stream qua server-sent events khi request đặt stream là true.

[Đầu ra có cấu trúc (structured output)](https://broadrouter.com/vi/glossary/structured-output/)

Đầu ra có cấu trúc (structured output) là tính năng của API LLM buộc câu trả lời của model theo định dạng do lập trình viên chỉ định, thường là JSON Schema, để code parse được tin cậy. Nó chặt hơn JSON mode, vốn chỉ đảm bảo JSON hợp lệ chứ không đảm bảo một cấu trúc cụ thể.

[Gói LLM giá cố định (flat-rate LLM plan)](https://broadrouter.com/vi/glossary/flat-rate-llm-plan/)

Gói LLM giá cố định tính một mức giá cố định cho mỗi kỳ, ví dụ một tháng, để dùng API mô hình ngôn ngữ thay vì tính theo token. Gói này thường giới hạn thứ khác, như số request đồng thời, tốc độ, model hay khung giờ sử dụng, nên giới hạn quan trọng không kém giá.

## Câu hỏi thường gặp

### Trong ChatOpenAI nên dùng base\_url hay openai\_api\_base?

Cái nào cũng được. openai\_api\_base là alias của base\_url. Nếu không truyền cái nào, LangChain kiểm tra OPENAI\_API\_BASE, rồi client openai đọc OPENAI\_BASE\_URL.

### Có thể đặt endpoint BroadNet chỉ bằng biến môi trường không?

Có. Đặt OPENAI\_BASE\_URL là https://inference.broadnet.ai/v1 và OPENAI\_API\_KEY là key BroadNet, rồi tạo ChatOpenAI chỉ với model ID. Truyền stream\_usage=True nếu bạn muốn có số token khi streaming.

### Vì sao LangChain bỏ reasoning\_content trong phản hồi của BroadNet?

Tài liệu LangChain cho biết ChatOpenAI tuân theo đặc tả chính thức của OpenAI và không trích xuất các trường không chuẩn như reasoning\_content. Bạn vẫn nhận câu trả lời cuối cùng trong content.

### ChatOpenAI với BroadNet có hỗ trợ gọi tool không?

Có, qua bind\_tools, trên các model BroadNet ghi là hỗ trợ tool. Hãy dùng broadnet/glm-5.3 hoặc broadnet/qwen3.8-27b cho gọi tool và with\_structured\_output.

## Hướng dẫn liên quan

-   [Dùng OpenAI Python SDK với BroadNet Inference](https://broadrouter.com/vi/guides/openai-python-sdk/)
-   [Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Mã lỗi BroadNet Inference và khi nào nên thử lại](https://broadrouter.com/vi/guides/errors-and-retries/)
-   [Chạy OpenAI Agents SDK trên BroadNet Inference](https://broadrouter.com/vi/guides/openai-agents-sdk-custom-provider/)
-   [Mọi công cụ dùng được với BroadNet Inference (tiếng Anh)](https://broadrouter.com/integrations/): SDK, agent lập trình, giao diện chat và công cụ tự động hóa, kèm cấu hình chính xác cho từng công cụ

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-langchain-openai-base-url&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu LangChain, tích hợp ChatOpenAI (kiểm tra ngày 2026-11-14)](https://docs.langchain.com/oss/python/integrations/chat/openai)
-   [PyPI, gói langchain-openai (1.8, Python 3.11 trở lên, kiểm tra ngày 2026-11-14)](https://pypi.org/project/langchain-openai/)
-   [Mã nguồn langchain-openai, cách ChatOpenAI xác định base URL (kiểm tra ngày 2026-11-16)](https://github.com/langchain-ai/langchain/blob/master/libs/partners/openai/langchain_openai/chat_models/base.py)
-   [Tài liệu tham chiếu API BroadNet Inference (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-langchain-openai-base-url&utm_content=sources)
