BroadRouter
Bắt đầu

Dùng Kilo Code với BroadNet Inference (provider OpenAI Compatible)

Cập nhật

Trong Kilo Code, mở Settings, vào Providers và bấm Custom provider. Chọn Provider API là OpenAI Compatible, đặt Base URL là https://inference.broadnet.ai/v1, dán key BroadNet và tự thêm một model ID như broadnet/glm-5.3. Trong kilo.json, dùng npm @ai-sdk/openai-compatible với options.baseURL, và đặt limit.context cùng limit.output.

Kilo Code là coding agent mã nguồn mở cho VS Code và terminal. Bất kỳ provider nào có API OpenAI Chat Completions đều có thể được thêm làm custom provider. BroadNet Inference phục vụ định dạng đó tại https://inference.broadnet.ai/v1. BroadRouter là trang web của chính BroadNet; hướng dẫn này làm theo tài liệu provider của Kilo như nội dung ngày 15 tháng 11 năm 2026.

Thiết lập trong VS Code

  1. Lấy key. Tạo một key trả theo mức dùng trong console BroadNet, hoặc dùng key của một gói không giới hạn.

  2. Mở Settings (biểu tượng bánh răng) và vào tab Providers.

  3. Cuộn xuống cuối và bấm Custom provider.

  4. Điền hộp thoại:

    Trường Giá trị
    Provider ID broadnet
    Display name BroadNet Inference
    Provider API OpenAI Compatible
    Base URL https://inference.broadnet.ai/v1
    API key key BroadNet của bạn
    Models tự thêm broadnet/glm-5.3 (xem bên dưới)
  5. Bấm Submit. Model sẽ xuất hiện trong bộ chọn model.

  6. Chạy thử. Bắt đầu một task như “explain this file”. Nếu có câu trả lời, kết nối đã hoạt động.

Kilo cố điền danh sách model từ /v1/models của endpoint. Tài liệu BroadNet mô tả endpoint này là metadata danh mục dành cho công cụ giám sát, và khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, nó chỉ liệt kê hai model chép lời. Hãy tự gõ ID của các model chat, và đừng chọn các model chép lời.

Thiết lập trong kilo.json (cho CLI, hoặc để đặt giới hạn và cờ tool)

Hộp thoại của Kilo không đặt được giới hạn token hay gọi tool. Tài liệu Kilo hướng tới file cấu hình cho việc này: ~/.config/kilo/kilo.json, hoặc ./kilo.json trong một project.

{
  "$schema": "https://app.kilo.ai/config.json",
  "model": "broadnet/glm-5.3",
  "provider": {
    "broadnet": {
      "npm": "@ai-sdk/openai-compatible",
      "env": ["BROADNET_API_KEY"],
      "options": {
        "baseURL": "https://inference.broadnet.ai/v1"
      },
      "models": {
        "glm-5.3": {
          "id": "broadnet/glm-5.3",
          "name": "GLM 5.3",
          "tool_call": true,
          "reasoning": true,
          "limit": { "context": 1048576, "output": 16000 }
        },
        "qwen3.8-27b": {
          "id": "broadnet/qwen3.8-27b",
          "name": "Qwen3.8 27B",
          "tool_call": true,
          "reasoning": true,
          "modalities": { "input": ["text", "image"], "output": ["text"] },
          "limit": { "context": 262144, "output": 16000 }
        },
        "deepseek-v4.1-flash": {
          "id": "broadnet/deepseek-v4.1-flash",
          "name": "DeepSeek V4.1 Flash",
          "reasoning": true,
          "limit": { "context": 1048576, "output": 16000 }
        }
      }
    }
  }
}
export BROADNET_API_KEY='your-broadnet-key'
  • Giá trị model ở cấp cao nhất, broadnet/glm-5.3, là tên provider cộng với khóa trong map (glm-5.3), không phải ID của BroadNet. Trường id là model ID mà Kilo gửi tới BroadNet. Tài liệu Kilo nói id mặc định bằng khóa trong map, nên hãy đặt nó mỗi khi khóa không phải là ID BroadNet đầy đủ, như với các khóa ngắn ở đây.
  • Luôn đặt limit.context và limit.output. Với model tùy chỉnh không khớp mục nào trong danh mục, tài liệu Kilo nói cả hai sẽ nhận giá trị 0, làm tắt tính năng tự quản lý context. Giá trị đầu ra 16.000 là gợi ý của chúng tôi; nó chừa chỗ cho suy luận.
  • tool_call được cố ý bỏ khỏi DeepSeek V4.1 Flash: tài liệu BroadNet không ghi gọi tool cho model này. Hãy thêm vào sau khi bạn đã thử.

Chọn model nào

Việc Model Ghi chú
Lập trình bằng agent có tool GLM 5.3 Có ghi tool và đầu ra có cấu trúc; context 1M
Ảnh chụp màn hình, tiếng Ả Rập Qwen3.8 27B Tool và hình ảnh; context 262K
Phiên dài, giá cố định DeepSeek V4.1 Flash Gói không giới hạn; BroadNet không ghi tool

Hãy thử gói không giới hạn với một giờ Meteor ($1) trước khi mua một tháng Full Moon ($60).

Xử lý sự cố

  • “Invalid API Key” hoặc 401. Dán lại key. Kiểm tra key còn hạn mức, và BROADNET_API_KEY đã được đặt trong tiến trình chạy Kilo.
  • “Model Not Found”. Kiểm tra ID khớp chính xác với ID của BroadNet, kể cả tiền tố broadnet/. Các model trả phí cần nạp tiền; $5 tín dụng ban đầu chỉ dùng được cho broadnet/gemma-4-26b-a4b và hai model Transcribe.
  • Câu trả lời rỗng hoặc “response may be incomplete”. Kilo cảnh báo khi một model suy luận dùng hết đầu ra cho phần suy luận. Hãy tăng limit.output. Vì sao câu trả lời trả về rỗng.
  • 429. Một key trả theo mức dùng cho phép 30 request mỗi phút và 4 request đang xử lý cùng lúc. Xem lỗi và thử lại.
  • Các subagent song song trên một key gói phải chờ hoặc thất bại. Một phiên của gói chạy một request tại một thời điểm, nên hãy cho mỗi subagent song song một phiên riêng.
  • Lỗi kết nối. Base URL phải kết thúc bằng /v1. Nếu key có danh sách IP cho phép, hãy thêm địa chỉ máy của bạn.

Câu hỏi thường gặp

Vì sao Kilo Code không liệt kê các model chat của BroadNet sau khi nhập Base URL?

Kilo lấy model từ danh sách /v1/models của endpoint. Khi chúng tôi kiểm tra ngày 15 tháng 11 năm 2026, /v1/models công khai của BroadNet chỉ liệt kê hai model chép lời, nên hãy tự thêm ID của các model chat.

limit.context nên đặt bao nhiêu cho các model BroadNet?

1048576 cho GLM 5.3 và DeepSeek V4.1 Flash, 262144 cho Qwen3.8 27B và 32768 cho BroadNet Gemma 4 VL 26B. Tài liệu Kilo nói nếu thiếu limit, model tùy chỉnh sẽ nhận giá trị 0, và điều đó tắt tính năng tự quản lý context.

Có dùng Kilo Code với gói không giới hạn của BroadNet được không?

Được. Các gói dùng DeepSeek V4.1 Flash, ID broadnet/deepseek-v4.1-flash. Dùng key của gói làm API key. Tài liệu BroadNet không ghi gọi tool cho model này, nên hãy thử một task agent trước.

Nên chọn OpenAI Compatible hay OpenAI Responses làm Provider API?

OpenAI Compatible. BroadNet phục vụ chat completions tại /v1/chat/completions và không liệt kê Responses API.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity