---
title: "Cấu hình endpoint Custom tương thích OpenAI cho SillyTavern"
description: "Kết nối SillyTavern với BroadNet Inference qua nguồn Chat Completion Custom (OpenAI-compatible): model ID đúng, xử lý hậu kỳ prompt và giới hạn token."
url: https://broadrouter.com/vi/guides/sillytavern-custom-openai-endpoint/
lang: vi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Được dịch từ tiếng Anh với sự hỗ trợ của AI. [Đọc bản gốc tiếng Anh](https://broadrouter.com/guides/sillytavern-custom-openai-endpoint/) (cập nhật ngày 2026-11-16).

# Kết nối SillyTavern với BroadNet Inference (Custom tương thích OpenAI)

Cập nhật 2026-11-16

Trong bảng API Connections của SillyTavern, chọn Chat Completion, rồi chọn Custom (OpenAI-compatible) cho Chat Completion Source. Đặt Custom Endpoint là https://inference.broadnet.ai/v1, dán key BroadNet, gõ một model ID như broadnet/qwen3.8-27b vào Enter a Model ID, bấm Connect rồi Test Message. Đặt Max Response Length từ 1.000 token trở lên.

SillyTavern là một giao diện chat mã nguồn mở, được dùng nhiều cho chat với nhân vật và roleplay. Nguồn **Custom (OpenAI-compatible)** của nó kết nối kiểu API Chat Completion với bất kỳ server nào dùng schema OpenAI chung. BroadNet Inference phục vụ chat completions chuẩn tại `https://inference.broadnet.ai/v1`. BroadRouter là website của chính BroadNet; các bước dưới đây làm theo [tài liệu SillyTavern](https://docs.sillytavern.app/usage/api-connections/openai/) và bản phát hành 1.19.0.

## Thiết lập

1.  **Lấy key.** Tạo một key trả theo mức dùng trong console BroadNet, mua một key theo giờ, hoặc mua một [gói không giới hạn](https://broadrouter.com/vi/guides/unlimited-llm-api-sessions/).
    
2.  Mở bảng **API Connections**.
    
3.  Đặt **API** là **Chat Completion**.
    
4.  Đặt **Chat Completion Source** là **Custom (OpenAI-compatible)**.
    
5.  Điền form Custom:
    
    | Trường | Giá trị |
    | --- | --- |
    | Custom Endpoint (Base URL) | `https://inference.broadnet.ai/v1` |
    | Custom API Key | key BroadNet của bạn |
    | Enter a Model ID | `broadnet/qwen3.8-27b` |
    
6.  Bấm **Connect**.
    
7.  **Chạy thử.** Bấm **Test Message**. SillyTavern gửi một prompt đơn giản tới model; nếu có câu trả lời, kết nối đã hoạt động.
    

Đừng thêm `/chat/completions` vào URL. Form của SillyTavern ghi rằng hậu tố này được thêm tự động.

Hãy gõ model ID thay vì chọn trong **Available Models**. Danh sách đó lấy từ `/v1/models`, mà tài liệu BroadNet mô tả là metadata danh mục dành cho công cụ giám sát. Khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, nó chỉ liệt kê hai model chuyển giọng nói thành văn bản, vốn không chat được.

## Chọn model nào

| Model | ID | Context | Ghi chú |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1.048.576 | Chat dài; model của các gói không giới hạn |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262.144 | Hình ảnh; BroadNet đã thử nghiệm bằng tiếng Ả Rập |
| GLM 5.3 | `broadnet/glm-5.3` | 1.048.576 | Chỉ văn bản; có tool |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32.768 | Chạy được bằng tín dụng miễn phí $5 và key theo giờ |

Gói không giới hạn hợp với các phiên dài vì bạn không trả tiền theo token: một giờ Meteor giá $1, một tuần Orbit giá $15 và một tháng Full Moon giá $60. Mỗi phiên của gói chạy một request tại một thời điểm.

## Những cài đặt nên chỉnh

-   **Max Response Length (tokens).** DeepSeek V4.1 Flash, GLM 5.3 và Qwen3.8 27B suy luận trước khi trả lời, và phần suy luận được tính vào giới hạn này. Hãy đặt từ 1.000 trở lên, nếu không bạn có thể nhận câu trả lời trống.
-   **Context Size (tokens).** Đặt theo model trong bảng. SillyTavern không đọc được giá trị này từ BroadNet.
-   **Prompt Post-Processing.** Nếu model từ chối prompt vì có nhiều system message hoặc vì thứ tự role, hãy thử **Merge consecutive roles** trước, rồi đến **Semi-strict**. Tài liệu SillyTavern lưu ý các tùy chọn này loại bỏ lời gọi tool, trừ khi bạn chọn biến thể “with tools”.
-   **Bypass status check.** Nếu SillyTavern cảnh báo API không hoạt động nhưng Test Message vẫn thành công, hãy đánh dấu mục này.

## Xử lý sự cố

-   **401.** Key sai, đã hết hạn hoặc đã hết hạn mức. Dán lại key và bấm Connect.
-   **404 hoặc “model not found”.** URL phải kết thúc bằng `/v1`, và ID phải có tiền tố `broadnet/`. Các model trả phí cần nạp tiền; tín dụng $5 chỉ dùng được cho `broadnet/gemma-4-26b-a4b` và hai model Transcribe.
-   **Câu trả lời trống.** Hãy tăng độ dài phản hồi. [Vì sao câu trả lời trả về rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/).
-   **429.** Key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc, còn key theo giờ và phiên của gói chạy một stream. Xem [lỗi và thử lại](https://broadrouter.com/vi/guides/errors-and-retries/).

## Thuật ngữ trong hướng dẫn này

[Token](https://broadrouter.com/vi/glossary/token/)

Token là đơn vị văn bản mà model ngôn ngữ đọc và viết: một từ, một phần của từ, một dấu câu hoặc một chuỗi byte do tokenizer của model tạo ra. API LLM đếm, giới hạn và thường tính phí theo token.

[Trả theo mức dùng (pay-as-you-go)](https://broadrouter.com/vi/glossary/pay-as-you-go/)

Trả theo mức dùng (pay-as-you-go) là mô hình giá mà bạn chỉ trả cho những gì đã dùng, đo theo đơn vị như token, request hoặc phút âm thanh, không có gói đăng ký hay cam kết tối thiểu. Hầu hết API LLM tính phí theo cách này, trừ vào số dư trả trước hoặc qua hóa đơn định kỳ.

[Gói LLM giá cố định (flat-rate LLM plan)](https://broadrouter.com/vi/glossary/flat-rate-llm-plan/)

Gói LLM giá cố định tính một mức giá cố định cho mỗi kỳ, ví dụ một tháng, để dùng API mô hình ngôn ngữ thay vì tính theo token. Gói này thường giới hạn thứ khác, như số request đồng thời, tốc độ, model hay khung giờ sử dụng, nên giới hạn quan trọng không kém giá.

[Giới hạn tần suất (rate limit)](https://broadrouter.com/vi/glossary/rate-limit/)

Giới hạn tần suất (rate limit) là mức trần mà API đặt ra cho lượng sử dụng của một client trong một khoảng thời gian, như số request mỗi phút hoặc số token mỗi phút. Request vượt giới hạn bị từ chối, thường với HTTP 429 Too Many Requests, cho đến khi mức dùng giảm xuống dưới giới hạn.

[Tool calling (gọi tool, function calling)](https://broadrouter.com/vi/glossary/tool-calling/)

Tool calling, còn gọi là function calling, là tính năng của API LLM trong đó model trả về một yêu cầu có cấu trúc để chạy một hàm do nhà phát triển định nghĩa, kèm đối số JSON. Ứng dụng chạy hàm rồi gửi kết quả lại; model không bao giờ tự chạy code.

[API key (khóa API)](https://broadrouter.com/vi/glossary/api-key/)

API key là một chuỗi bí mật dùng để xác định và cấp quyền cho client gọi API. API LLM thường yêu cầu nó trong header Authorization: Bearer, và bất kỳ ai giữ key đều có thể gửi request được tính phí vào tài khoản sở hữu key đó.

[Base URL](https://broadrouter.com/vi/glossary/base-url/)

Base URL là địa chỉ gốc cố định của một API, như https://api.example.com/v1, mà client đặt trước mọi đường dẫn endpoint, như /chat/completions. Trong SDK tương thích OpenAI, đổi base URL cùng với API key và model ID sẽ trỏ cùng một đoạn code sang nhà cung cấp khác.

[Chat Completions API](https://broadrouter.com/vi/glossary/chat-completions-api/)

Chat Completions API là endpoint HTTP của OpenAI, POST /v1/chat/completions, nhận tên model và danh sách message có gắn vai trò rồi trả về message tiếp theo của model. Cấu trúc request và response của nó đã trở thành định dạng chung mà các nhà cung cấp và SDK tương thích OpenAI dùng lại.

## Câu hỏi thường gặp

### Vì sao danh sách Available Models sai hoặc trống với BroadNet?

SillyTavern lấy danh sách này từ /v1/models. Khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, /v1/models công khai của BroadNet chỉ liệt kê hai model chuyển giọng nói thành văn bản. Hãy gõ model ID chat vào Enter a Model ID.

### Model BroadNet nào tốt nhất cho các cuộc roleplay dài?

DeepSeek V4.1 Flash có context 1.048.576 token và là model của các gói không giới hạn giá cố định của BroadNet. Qwen3.8 27B là model BroadNet đã thử nghiệm bằng tiếng Ả Rập, kể cả phương ngữ vùng Vịnh và Ai Cập.

### Vì sao SillyTavern trả về câu trả lời trống?

Các model chat của BroadNet, trừ Gemma 4 VL 26B, suy luận trước khi trả lời, và phần suy luận được tính vào max\_tokens. Max Response Length của SillyTavern đặt giới hạn đó, nên hãy tăng lên từ 1.000 token trở lên.

### Có quy định về nội dung không?

Có. Chính sách sử dụng được chấp nhận (AUP) của BroadNet áp dụng cho mọi thứ gửi qua API, và lệnh cấm nội dung tình dục liên quan đến trẻ vị thành niên trong chính sách này ghi rõ là bao gồm cả nội dung hư cấu và nội dung tổng hợp.

## Hướng dẫn liên quan

-   [Dùng Jan với BroadNet Inference làm provider tương thích OpenAI](https://broadrouter.com/vi/guides/jan-custom-endpoint/)
-   [Kết nối Open WebUI với BroadNet Inference](https://broadrouter.com/vi/guides/open-webui-openai-api/)
-   [Vì sao model suy luận trả về câu trả lời rỗng](https://broadrouter.com/vi/guides/reasoning-tokens-empty-response/)
-   [Mã lỗi BroadNet Inference và khi nào nên thử lại](https://broadrouter.com/vi/guides/errors-and-retries/)
-   [Mọi công cụ dùng được với BroadNet Inference (tiếng Anh)](https://broadrouter.com/integrations/): SDK, agent lập trình, giao diện chat và công cụ tự động hóa, kèm cấu hình chính xác cho từng công cụ

Hãy thử với khối lượng công việc thực tế của bạn. Tài khoản mới được tặng US$5 tín dụng ban đầu cho Gemma và chuyển giọng nói thành văn bản. DeepSeek, GLM và Qwen3.8 cần nạp tiền.

[Bắt đầu](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-sillytavern-custom-openai-endpoint&utm_content=page-cta) ·

**Nguồn**

-   [Tài liệu SillyTavern, kết nối Chat Completions API, endpoint Custom tương thích OpenAI (kiểm tra ngày 2026-11-15)](https://docs.sillytavern.app/usage/api-connections/openai/)
-   [Mã nguồn SillyTavern, form endpoint Custom trong public/index.html, nhánh release (kiểm tra ngày 2026-11-15)](https://github.com/SillyTavern/SillyTavern/blob/release/public/index.html)
-   [Bản phát hành SillyTavern 1.19.0 trên GitHub, phát hành ngày 2026-09-14, bản mới nhất (kiểm tra ngày 2026-11-16)](https://github.com/SillyTavern/SillyTavern/releases/tag/1.19.0)
-   [Chính sách sử dụng được chấp nhận của BroadNet (kiểm tra ngày 2026-11-15) (tiếng Anh)](https://www.broadnet.ai/aup)
-   [Tài liệu tham chiếu API BroadNet Inference (kiểm tra ngày 2026-11-15) (tiếng Anh)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=vi-guides-sillytavern-custom-openai-endpoint&utm_content=sources)
