---
title: "Persediaan endpoint Custom OpenAI-compatible SillyTavern"
description: "Sambung SillyTavern ke BroadNet Inference dengan sumber Chat Completion Custom (OpenAI-compatible), ID model yang betul, prompt post-processing dan had token."
url: https://broadrouter.com/ms/guides/sillytavern-custom-openai-endpoint/
lang: ms
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/guides/sillytavern-custom-openai-endpoint/) (dikemas kini 2026-11-16).

# Sambung SillyTavern ke BroadNet Inference (Custom OpenAI-compatible)

Dikemas kini 2026-11-16

Dalam panel API Connections SillyTavern, pilih Chat Completion, kemudian Custom (OpenAI-compatible) sebagai Chat Completion Source. Tetapkan Custom Endpoint kepada https://inference.broadnet.ai/v1, tampal kunci BroadNet anda, taip ID model seperti broadnet/qwen3.8-27b dalam Enter a Model ID, klik Connect, kemudian Test Message. Tetapkan Max Response Length kepada 1,000 token atau lebih.

SillyTavern ialah antara muka chat sumber terbuka, popular untuk chat watak dan roleplay. Sumber \*\*Custom (OpenAI-compatible)\*\*nya menyambungkan jenis API Chat Completion kepada mana-mana pelayan yang menggunakan skema OpenAI generik. BroadNet Inference menyediakan chat completions standard di `https://inference.broadnet.ai/v1`. BroadRouter ialah laman web BroadNet sendiri; langkah-langkah ini mengikut [dokumentasi SillyTavern](https://docs.sillytavern.app/usage/api-connections/openai/) dan keluaran 1.19.0nya.

## Persediaan

1.  **Dapatkan kunci.** Cipta kunci bayar ikut guna dalam konsol BroadNet, beli kunci sejam, atau beli [pelan tanpa had](https://broadrouter.com/ms/guides/unlimited-llm-api-sessions/).
    
2.  Buka panel **API Connections**.
    
3.  Tetapkan **API** kepada **Chat Completion**.
    
4.  Tetapkan **Chat Completion Source** kepada **Custom (OpenAI-compatible)**.
    
5.  Isikan borang tersuai:
    
    | Medan | Nilai |
    | --- | --- |
    | Custom Endpoint (Base URL) | `https://inference.broadnet.ai/v1` |
    | Custom API Key | kunci BroadNet anda |
    | Enter a Model ID | `broadnet/qwen3.8-27b` |
    
6.  Klik **Connect**.
    
7.  **Uji.** Klik **Test Message**. SillyTavern menghantar prompt ringkas kepada model; balasan bermakna sambungan berfungsi.
    

Jangan tambah `/chat/completions` pada URL. Borang SillyTavern menyatakan akhiran itu ditambah secara automatik.

Taip ID model dan bukannya memilih daripada **Available Models**. Senarai itu datang daripada `/v1/models`, yang diterangkan oleh dokumentasi BroadNet sebagai metadata katalog untuk pemantau. Semasa kami menyemaknya pada 15 November 2026, ia hanya menyenaraikan dua model transkripsi, yang tidak boleh berbual.

## Model mana yang patut dipilih

| Model | ID | Konteks | Nota |
| --- | --- | --- | --- |
| DeepSeek V4.1 Flash | `broadnet/deepseek-v4.1-flash` | 1,048,576 | Chat panjang; model pada pelan tanpa had |
| Qwen3.8 27B | `broadnet/qwen3.8-27b` | 262,144 | Imej; diuji BroadNet dalam bahasa Arab |
| GLM 5.3 | `broadnet/glm-5.3` | 1,048,576 | Teks sahaja; tools |
| BroadNet Gemma 4 VL 26B | `broadnet/gemma-4-26b-a4b` | 32,768 | Berjalan dengan kredit percuma $5 dan kunci sejam |

Pelan tanpa had sesuai untuk sesi panjang kerana anda tidak membayar setiap token: sejam Meteor berharga $1, seminggu Orbit $15 dan sebulan Full Moon $60. Setiap sesi pelan menjalankan satu permintaan pada satu masa.

## Tetapan yang patut diubah

-   **Max Response Length (tokens).** DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B membuat penaakulan sebelum menjawab, dan penaakulan dikira dalam had ini. Tetapkan 1,000 atau lebih, atau anda mungkin mendapat balasan kosong.
-   **Context Size (tokens).** Padankan dengan model dalam jadual. SillyTavern tidak dapat membacanya daripada BroadNet.
-   **Prompt Post-Processing.** Jika model menolak prompt kerana beberapa mesej system atau susunan peranan, cuba **Merge consecutive roles** dahulu, kemudian **Semi-strict**. Dokumentasi SillyTavern menyatakan pilihan ini membuang panggilan alatan melainkan anda memilih varian “with tools”.
-   **Bypass status check.** Jika SillyTavern memberi amaran bahawa API tidak berfungsi tetapi Test Message berjaya, tandakan pilihan ini.

## Penyelesaian masalah

-   **401.** Kunci salah, tamat tempoh atau kehabisan elaun. Tampal semula dan klik Connect.
-   **404 atau “model not found”.** URL mesti berakhir dengan `/v1`, dan ID mesti termasuk awalan `broadnet/`. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi `broadnet/gemma-4-26b-a4b` dan dua model Transcribe.
-   **Balasan kosong.** Naikkan panjang respons. [Mengapa jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/).
-   **429.** Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak, manakala kunci sejam dan sesi pelan menjalankan satu strim. Lihat [ralat dan cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/).

## Istilah dalam panduan ini

[Token](https://broadrouter.com/ms/glossary/token/)

Token ialah unit teks yang dibaca dan ditulis oleh model bahasa: satu perkataan, sebahagian perkataan, tanda baca atau jujukan bait yang dihasilkan oleh tokenizer model itu. API LLM mengira, mengehadkan dan biasanya mengebil penggunaan dalam token.

[Bayar ikut guna (pay-as-you-go)](https://broadrouter.com/ms/glossary/pay-as-you-go/)

Bayar ikut guna ialah model harga di mana anda hanya membayar apa yang anda guna, dimeter mengikut unit seperti token, permintaan atau minit audio, tanpa langganan atau komitmen minimum. Kebanyakan API LLM mengebil dengan cara ini, daripada baki prabayar atau invois berkala.

[Pelan LLM harga tetap (flat-rate LLM plan)](https://broadrouter.com/ms/glossary/flat-rate-llm-plan/)

Pelan LLM harga tetap mengenakan harga tetap bagi satu tempoh, seperti sebulan, untuk akses kepada API model bahasa dan bukannya mengebil setiap token. Pelan sebegini biasanya mengehadkan perkara lain, seperti keserentakan, kelajuan, model atau tetingkap penggunaan, jadi hadnya sama penting dengan harganya.

[Tool calling (panggilan alatan)](https://broadrouter.com/ms/glossary/tool-calling/)

Tool calling, juga dipanggil function calling, ialah ciri API LLM di mana model memulangkan permintaan berstruktur untuk menjalankan fungsi yang ditakrifkan oleh pembangun, bersama argumen JSON. Aplikasi menjalankan fungsi itu dan menghantar hasilnya kembali; model sendiri tidak pernah menjalankan kod.

[Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/)

Keserentakan ialah bilangan permintaan yang sedang berjalan serentak daripada satu klien. API LLM sering mengehadkannya bagi setiap kunci atau pelan, berasingan daripada permintaan seminit, kerana setiap permintaan yang terbuka memegang kapasiti GPU sehingga responsnya selesai.

[Tetingkap konteks (context window)](https://broadrouter.com/ms/glossary/context-window/)

Tetingkap konteks ialah bilangan maksimum token yang boleh dikendalikan oleh model bahasa dalam satu permintaan. Ia meliputi prompt, sejarah perbualan, definisi alatan, imej dan output yang dijana, termasuk token penaakulan. Apa-apa yang tidak muat mesti dipotong, diringkaskan atau dipecahkan kepada beberapa permintaan.

[Base URL (URL asas)](https://broadrouter.com/ms/glossary/base-url/)

Base URL ialah alamat akar tetap sesuatu API, seperti https://api.example.com/v1, yang diletakkan oleh klien di hadapan setiap laluan endpoint, seperti /chat/completions. Dalam SDK serasi OpenAI, menukar base URL, bersama kunci API dan ID model, menghalakan kod yang sama kepada penyedia lain.

[Chat Completions API](https://broadrouter.com/ms/glossary/chat-completions-api/)

Chat Completions API ialah endpoint HTTP OpenAI, POST /v1/chat/completions, yang menerima nama model dan senarai mesej bertanda peranan, lalu memulangkan mesej seterusnya daripada model. Bentuk permintaan dan responsnya menjadi format biasa yang digunakan semula oleh penyedia dan SDK yang serasi OpenAI.

## Soalan lazim

### Mengapakah senarai Available Models salah atau kosong untuk BroadNet?

SillyTavern mengisinya daripada /v1/models. Semasa kami menyemak pada 15 November 2026, /v1/models awam BroadNet hanya menyenaraikan dua model transkripsinya. Taip ID model chat dalam Enter a Model ID sebaliknya.

### Model BroadNet manakah yang terbaik untuk chat roleplay yang panjang?

DeepSeek V4.1 Flash mempunyai konteks 1,048,576 token dan merupakan model pada pelan tanpa had kadar tetap BroadNet. Qwen3.8 27B pula ialah model yang diuji BroadNet dalam bahasa Arab, termasuk dialek Teluk dan Mesir.

### Mengapakah balasan kosong dalam SillyTavern?

Model chat BroadNet kecuali Gemma 4 VL 26B membuat penaakulan sebelum menjawab, dan penaakulan dikira dalam max\_tokens. Max Response Length SillyTavern menetapkan had itu, jadi naikkannya kepada 1,000 token atau lebih.

### Adakah peraturan kandungan?

Ya. Dasar Penggunaan Boleh Diterima BroadNet terpakai kepada semua yang dihantar melalui API, dan ia secara jelas meliputi kandungan fiksyen dan sintetik dalam larangannya terhadap kandungan seksual yang melibatkan kanak-kanak bawah umur.

## Panduan berkaitan

-   [Guna Jan dengan BroadNet Inference sebagai penyedia serasi OpenAI](https://broadrouter.com/ms/guides/jan-custom-endpoint/)
-   [Cara sambungkan Open WebUI kepada BroadNet Inference](https://broadrouter.com/ms/guides/open-webui-openai-api/)
-   [Mengapa model penaakulan memulangkan jawapan kosong](https://broadrouter.com/ms/guides/reasoning-tokens-empty-response/)
-   [Kod ralat BroadNet Inference dan bila perlu cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/)
-   [Semua alat yang berfungsi dengan BroadNet Inference (Bahasa Inggeris)](https://broadrouter.com/integrations/): SDK, ejen pengekodan, antara muka sembang dan alat automasi, dengan tetapan tepat bagi setiap satu

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-sillytavern-custom-openai-endpoint&utm_content=page-cta) ·

**Sumber**

-   [Dokumentasi SillyTavern, sambungan Chat Completions API, endpoint Custom OpenAI-compatible (disemak 2026-11-15)](https://docs.sillytavern.app/usage/api-connections/openai/)
-   [Kod sumber SillyTavern, borang Custom endpoint dalam public/index.html, cabang release (disemak 2026-11-15)](https://github.com/SillyTavern/SillyTavern/blob/release/public/index.html)
-   [Keluaran SillyTavern 1.19.0 di GitHub, diterbitkan 2026-09-14, keluaran terkini (disemak 2026-11-16)](https://github.com/SillyTavern/SillyTavern/releases/tag/1.19.0)
-   [Dasar Penggunaan Boleh Diterima BroadNet (disemak 2026-11-15) (Bahasa Inggeris)](https://www.broadnet.ai/aup)
-   [Rujukan API BroadNet Inference (disemak 2026-11-15) (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-guides-sillytavern-custom-openai-endpoint&utm_content=sources)
