Mastra ialah rangka kerja TypeScript untuk ejen dan aliran kerja AI. Selain penyedia terbina dalamnya, model sesuatu ejen boleh menjadi mana-mana endpoint serasi OpenAI, diberikan sebagai objek dengan id dan url. BroadNet Inference menyediakan chat completions standard di https://inference.broadnet.ai/v1, jadi ia berfungsi dengan cara ini, dengan satu perangkap pada ID model. BroadRouter ialah laman web BroadNet sendiri; panduan ini mengikut dokumentasi models Mastra dan @mastra/core 1.83.0.
Pasang
npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'
Sambungkan ejen
import { Agent } from "@mastra/core/agent";
const broadnet = (model: string) => ({
id: `broadnet/${model}`, // Mastra strips the first segment
url: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
export const assistant = new Agent({
id: "assistant",
name: "Assistant",
instructions: "You are a concise assistant.",
model: broadnet("broadnet/glm-5.3"), // sends broadnet/glm-5.3
});
const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);
Mengapa awalan berganda
Dokumentasi Mastra menyatakan id yang ditulis sebagai provider/model menghantar nama model sahaja ke pelayan jauh, manakala gateway/provider/model mengekalkan penyedia dalam nama. ID BroadNet mengandungi garis miring, jadi ia memerlukan bentuk yang lebih panjang. Dalam ujian kami:
id Mastra |
ID model yang diterima BroadNet |
|---|---|
broadnet/glm-5.3 |
glm-5.3 (salah) |
broadnet/broadnet/glm-5.3 |
broadnet/glm-5.3 (betul) |
Fungsi pembantu di atas menambah segmen tambahan itu untuk anda.
Alatan
import { createTool } from "@mastra/core/tools";
import { z } from "zod";
const weather = createTool({
id: "get_weather",
description: "Get the weather for a city",
inputSchema: z.object({ city: z.string() }),
execute: async (input) => ({ city: input.city, tempC: 21 }),
});
const agent = new Agent({
id: "weather",
name: "Weather",
instructions: "Use the weather tool to answer.",
tools: { weather },
model: broadnet("broadnet/glm-5.3"),
});
Gunakan broadnet/glm-5.3 atau broadnet/qwen3.8-27b untuk ejen dengan alatan. Dokumentasi BroadNet menyenaraikan tools dan output berstruktur untuk dua model ini sahaja.
Penstriman
const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);
Tetapan yang penting
urlialah base URL, berakhir dengan/v1. Mastra menambah/chat/completions.- Jangan tambah
api: "responses". Dokumentasi Mastra menyatakan itu menukar panggilan ke/v1/responses. BroadNet tidak menyenaraikan Responses API. - Had output. DeepSeek V4.1 Flash, GLM 5.3 dan Qwen3.8 27B membuat penaakulan sebelum menjawab, dan penaakulan dikira dalam had output. Jika anda mengehadkan token output, berikan 2,000 atau lebih.
Model mana yang patut dipilih
| Ejen | Model |
|---|---|
| Alatan, output berstruktur, aliran kerja | broadnet/glm-5.3 |
| Alatan serta input imej atau teks bahasa Arab | broadnet/qwen3.8-27b |
| Langkah teks sahaja pada pelan harga tetap | broadnet/deepseek-v4.1-flash |
Harga setiap model. Untuk Vercel AI SDK tanpa Mastra, lihat panduan AI SDK.
Cara kami mengujinya
Pada 2026-11-15 kami memasang @mastra/core 1.83.0 dengan Node 24 dan menjalankan generate, stream dan ejen alatan terhadap pelayan olok-olok tempatan yang mengikut bentuk chat completions BroadNet dan memulangkan panggilan alatan. Kami membaca permintaan yang dilog. Setiap panggilan pergi ke /v1/chat/completions dengan kunci Bearer daripada apiKey. Begitulah kami menemui peraturan awalan dalam jadual di atas. Kami tiada kunci BroadNet, jadi kami tidak menguji output model sebenar.
Penyelesaian masalah
- 404 atau model not found. ID model mungkin kehilangan awalannya. Tulis
idsebagaibroadnet/broadnet/glm-5.3. Kemudian semak bahawaurlberakhir dengan/v1. Model berbayar memerlukan tambah nilai; kredit $5 hanya meliputibroadnet/gemma-4-26b-a4bdan dua model Transcribe. - 401.
BROADNET_API_KEYtidak ditetapkan dalam proses, atau kunci salah atau kehabisan elaun. - Balasan kosong. Penaakulan menghabiskan bajet output. Mengapa jawapan kosong.
- 429 dalam aliran kerja dengan langkah selari. Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak; sesi pelan menjalankan satu permintaan pada satu masa. Lihat ralat dan cuba semula.
