Sambung SillyTavern ke BroadNet Inference (Custom OpenAI-compatible)
Dikemas kini
Dalam panel API Connections SillyTavern, pilih Chat Completion, kemudian Custom (OpenAI-compatible) sebagai Chat Completion Source. Tetapkan Custom Endpoint kepada https://inference.broadnet.ai/v1, tampal kunci BroadNet anda, taip ID model seperti broadnet/qwen3.8-27b dalam Enter a Model ID, klik Connect, kemudian Test Message. Tetapkan Max Response Length kepada 1,000 token atau lebih.
SillyTavern ialah antara muka chat sumber terbuka, popular untuk chat watak dan roleplay. Sumber **Custom (OpenAI-compatible)**nya menyambungkan jenis API Chat Completion kepada mana-mana pelayan yang menggunakan skema OpenAI generik. BroadNet Inference menyediakan chat completions standard di https://inference.broadnet.ai/v1. BroadRouter ialah laman web BroadNet sendiri; langkah-langkah ini mengikut dokumentasi SillyTavern dan keluaran 1.19.0nya.
Persediaan
Dapatkan kunci. Cipta kunci bayar ikut guna dalam konsol BroadNet, beli kunci sejam, atau beli pelan tanpa had.
Buka panel API Connections.
Tetapkan API kepada Chat Completion.
Tetapkan Chat Completion Source kepada Custom (OpenAI-compatible).
Isikan borang tersuai:
Medan
Nilai
Custom Endpoint (Base URL)
https://inference.broadnet.ai/v1
Custom API Key
kunci BroadNet anda
Enter a Model ID
broadnet/qwen3.8-27b
Klik Connect.
Uji. Klik Test Message. SillyTavern menghantar prompt ringkas kepada model; balasan bermakna sambungan berfungsi.
Jangan tambah /chat/completions pada URL. Borang SillyTavern menyatakan akhiran itu ditambah secara automatik.
Taip ID model dan bukannya memilih daripada Available Models. Senarai itu datang daripada /v1/models, yang diterangkan oleh dokumentasi BroadNet sebagai metadata katalog untuk pemantau. Semasa kami menyemaknya pada 15 November 2026, ia hanya menyenaraikan dua model transkripsi, yang tidak boleh berbual.
Model mana yang patut dipilih
Model
ID
Konteks
Nota
DeepSeek V4.1 Flash
broadnet/deepseek-v4.1-flash
1,048,576
Chat panjang; model pada pelan tanpa had
Qwen3.8 27B
broadnet/qwen3.8-27b
262,144
Imej; diuji BroadNet dalam bahasa Arab
GLM 5.3
broadnet/glm-5.3
1,048,576
Teks sahaja; tools
BroadNet Gemma 4 VL 26B
broadnet/gemma-4-26b-a4b
32,768
Berjalan dengan kredit percuma $5 dan kunci sejam
Pelan tanpa had sesuai untuk sesi panjang kerana anda tidak membayar setiap token: sejam Meteor berharga $1, seminggu Orbit $15 dan sebulan Full Moon $60. Setiap sesi pelan menjalankan satu permintaan pada satu masa.
Tetapan yang patut diubah
Max Response Length (tokens). DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B membuat penaakulan sebelum menjawab, dan penaakulan dikira dalam had ini. Tetapkan 1,000 atau lebih, atau anda mungkin mendapat balasan kosong.
Context Size (tokens). Padankan dengan model dalam jadual. SillyTavern tidak dapat membacanya daripada BroadNet.
Prompt Post-Processing. Jika model menolak prompt kerana beberapa mesej system atau susunan peranan, cuba Merge consecutive roles dahulu, kemudian Semi-strict. Dokumentasi SillyTavern menyatakan pilihan ini membuang panggilan alatan melainkan anda memilih varian “with tools”.
Bypass status check. Jika SillyTavern memberi amaran bahawa API tidak berfungsi tetapi Test Message berjaya, tandakan pilihan ini.
Penyelesaian masalah
401. Kunci salah, tamat tempoh atau kehabisan elaun. Tampal semula dan klik Connect.
404 atau “model not found”. URL mesti berakhir dengan /v1, dan ID mesti termasuk awalan broadnet/. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi broadnet/gemma-4-26b-a4b dan dua model Transcribe.
429. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak, manakala kunci sejam dan sesi pelan menjalankan satu strim. Lihat ralat dan cuba semula.
Soalan lazim
Mengapakah senarai Available Models salah atau kosong untuk BroadNet?
SillyTavern mengisinya daripada /v1/models. Semasa kami menyemak pada 15 November 2026, /v1/models awam BroadNet hanya menyenaraikan dua model transkripsinya. Taip ID model chat dalam Enter a Model ID sebaliknya.
Model BroadNet manakah yang terbaik untuk chat roleplay yang panjang?
DeepSeek V4.1 Flash mempunyai konteks 1,048,576 token dan merupakan model pada pelan tanpa had kadar tetap BroadNet. Qwen3.8 27B pula ialah model yang diuji BroadNet dalam bahasa Arab, termasuk dialek Teluk dan Mesir.
Mengapakah balasan kosong dalam SillyTavern?
Model chat BroadNet kecuali Gemma 4 VL 26B membuat penaakulan sebelum menjawab, dan penaakulan dikira dalam max_tokens. Max Response Length SillyTavern menetapkan had itu, jadi naikkannya kepada 1,000 token atau lebih.
Adakah peraturan kandungan?
Ya. Dasar Penggunaan Boleh Diterima BroadNet terpakai kepada semua yang dihantar melalui API, dan ia secara jelas meliputi kandungan fiksyen dan sintetik dalam larangannya terhadap kandungan seksual yang melibatkan kanak-kanak bawah umur.