BroadRouter

Guna ejen Mastra dengan BroadNet Inference

Dikemas kini

Dalam Agent Mastra, tetapkan model kepada objek dengan url https://inference.broadnet.ai/v1, apiKey daripada BROADNET_API_KEY dan id broadnet/broadnet/glm-5.3. Mastra menganggap bahagian pertama id sebagai nama penyedia dan membuangnya, jadi awalan berganda menghantar broadnet/glm-5.3 kepada BroadNet. URL tersuai menggunakan chat completions secara lalai. Gunakan GLM 5.3 atau Qwen3.8 27B untuk alatan.

Mastra ialah rangka kerja TypeScript untuk ejen dan aliran kerja AI. Selain penyedia terbina dalamnya, model sesuatu ejen boleh menjadi mana-mana endpoint serasi OpenAI, diberikan sebagai objek dengan id dan url. BroadNet Inference menyediakan chat completions standard di https://inference.broadnet.ai/v1, jadi ia berfungsi dengan cara ini, dengan satu perangkap pada ID model. BroadRouter ialah laman web BroadNet sendiri; panduan ini mengikut dokumentasi models Mastra dan @mastra/core 1.83.0.

Pasang

npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'

Sambungkan ejen

import { Agent } from "@mastra/core/agent";

const broadnet = (model: string) => ({
  id: `broadnet/${model}`,              // Mastra strips the first segment
  url: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

export const assistant = new Agent({
  id: "assistant",
  name: "Assistant",
  instructions: "You are a concise assistant.",
  model: broadnet("broadnet/glm-5.3"),     // sends broadnet/glm-5.3
});

const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);

Mengapa awalan berganda

Dokumentasi Mastra menyatakan id yang ditulis sebagai provider/model menghantar nama model sahaja ke pelayan jauh, manakala gateway/provider/model mengekalkan penyedia dalam nama. ID BroadNet mengandungi garis miring, jadi ia memerlukan bentuk yang lebih panjang. Dalam ujian kami:

id Mastra ID model yang diterima BroadNet
broadnet/glm-5.3 glm-5.3 (salah)
broadnet/broadnet/glm-5.3 broadnet/glm-5.3 (betul)

Fungsi pembantu di atas menambah segmen tambahan itu untuk anda.

Alatan

import { createTool } from "@mastra/core/tools";
import { z } from "zod";

const weather = createTool({
  id: "get_weather",
  description: "Get the weather for a city",
  inputSchema: z.object({ city: z.string() }),
  execute: async (input) => ({ city: input.city, tempC: 21 }),
});

const agent = new Agent({
  id: "weather",
  name: "Weather",
  instructions: "Use the weather tool to answer.",
  tools: { weather },
  model: broadnet("broadnet/glm-5.3"),
});

Gunakan broadnet/glm-5.3 atau broadnet/qwen3.8-27b untuk ejen dengan alatan. Dokumentasi BroadNet menyenaraikan tools dan output berstruktur untuk dua model ini sahaja.

Penstriman

const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);

Tetapan yang penting

  • url ialah base URL, berakhir dengan /v1. Mastra menambah /chat/completions.
  • Jangan tambah api: "responses". Dokumentasi Mastra menyatakan itu menukar panggilan ke /v1/responses. BroadNet tidak menyenaraikan Responses API.
  • Had output. DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B membuat penaakulan sebelum menjawab, dan penaakulan dikira dalam had output. Jika anda mengehadkan token output, berikan 2,000 atau lebih.

Model mana yang patut dipilih

Ejen Model
Alatan, output berstruktur, aliran kerja broadnet/glm-5.3
Alatan serta input imej atau teks bahasa Arab broadnet/qwen3.8-27b
Langkah teks sahaja pada pelan harga tetap broadnet/deepseek-v4.1-flash

Harga setiap model. Untuk Vercel AI SDK tanpa Mastra, lihat panduan AI SDK.

Cara kami mengujinya

Pada 2026-11-15 kami memasang @mastra/core 1.83.0 dengan Node 24 dan menjalankan generate, stream dan ejen alatan terhadap pelayan olok-olok tempatan yang mengikut bentuk chat completions BroadNet dan memulangkan panggilan alatan. Kami membaca permintaan yang dilog. Setiap panggilan pergi ke /v1/chat/completions dengan kunci Bearer daripada apiKey. Begitulah kami menemui peraturan awalan dalam jadual di atas. Kami tiada kunci BroadNet, jadi kami tidak menguji output model sebenar.

Penyelesaian masalah

  • 404 atau model not found. ID model mungkin kehilangan awalannya. Tulis id sebagai broadnet/broadnet/glm-5.3. Kemudian semak bahawa url berakhir dengan /v1. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputi broadnet/gemma-4-26b-a4b dan dua model Transcribe.
  • 401. BROADNET_API_KEY tidak ditetapkan dalam proses, atau kunci salah atau kehabisan elaun.
  • Balasan kosong. Penaakulan menghabiskan bajet output. Mengapa jawapan kosong.
  • 429 dalam aliran kerja dengan langkah selari. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak; sesi pelan menjalankan satu permintaan pada satu masa. Lihat ralat dan cuba semula.

Soalan lazim

Mengapakah Mastra menghantar glm-5.3 dan bukan broadnet/glm-5.3?

Mastra membaca id model sebagai provider/model dan hanya menghantar bahagian selepas garis miring pertama. Dengan id broadnet/glm-5.3, ia menghantar glm-5.3 dalam ujian kami, yang tidak dikenali oleh BroadNet. Tulis id sebagai broadnet/broadnet/glm-5.3.

Patutkah url Mastra ialah base URL atau URL chat completions?

Base URL. Dokumentasi Mastra menyuruh anda menggunakan base URL endpoint serasi OpenAI, jadi gunakan https://inference.broadnet.ai/v1 tanpa /chat/completions.

Adakah Mastra menggunakan Responses API dengan URL tersuai?

Tidak secara lalai. Dokumentasi Mastra menyatakan endpoint tersuai menggunakan chat completions kecuali anda menambah api yang ditetapkan kepada responses. Jangan tambahnya untuk BroadNet, yang menyediakan chat completions.

Adakah alatan Mastra berfungsi pada BroadNet?

Ya, pada model yang disenaraikan BroadNet dengan tools, iaitu GLM 5.3 atau Qwen3.8 27B. Dalam ujian olok-olok kami, ejen menghantar skema alatan, menjalankan alatan itu dan memulangkan hasilnya.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity