Mastra, AI एजेंट और वर्कफ़्लो के लिए एक TypeScript फ़्रेमवर्क है। इसके बिल्ट-इन प्रोवाइडर के अलावा, एजेंट का model कोई भी OpenAI-compatible एंडपॉइंट हो सकता है, जिसे id और url वाले ऑब्जेक्ट के रूप में दिया जाता है। BroadNet Inference https://inference.broadnet.ai/v1 पर स्टैंडर्ड chat completions देता है, इसलिए यह इसी तरह चलता है, बस मॉडल ID में एक पेंच है। BroadRouter, BroadNet की अपनी साइट है; यह गाइड Mastra के models डॉक्स और @mastra/core 1.83.0 के अनुसार है।
इंस्टॉल करें
npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'
एजेंट कनेक्ट करें
import { Agent } from "@mastra/core/agent";
const broadnet = (model: string) => ({
id: `broadnet/${model}`, // Mastra strips the first segment
url: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
export const assistant = new Agent({
id: "assistant",
name: "Assistant",
instructions: "You are a concise assistant.",
model: broadnet("broadnet/glm-5.3"), // sends broadnet/glm-5.3
});
const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);
दोहरा प्रीफ़िक्स क्यों
Mastra के डॉक्स कहते हैं कि provider/model के रूप में लिखा id रिमोट को सिर्फ़ मॉडल का नाम भेजता है, और gateway/provider/model नाम में प्रोवाइडर को बनाए रखता है। BroadNet के ID में स्लैश है, इसलिए उन्हें लंबा रूप चाहिए। हमारे टेस्ट में:
Mastra id |
BroadNet को मिला मॉडल ID |
|---|---|
broadnet/glm-5.3 |
glm-5.3 (ग़लत) |
broadnet/broadnet/glm-5.3 |
broadnet/glm-5.3 (सही) |
ऊपर वाला helper यह अतिरिक्त हिस्सा आपके लिए जोड़ देता है।
टूल
import { createTool } from "@mastra/core/tools";
import { z } from "zod";
const weather = createTool({
id: "get_weather",
description: "Get the weather for a city",
inputSchema: z.object({ city: z.string() }),
execute: async (input) => ({ city: input.city, tempC: 21 }),
});
const agent = new Agent({
id: "weather",
name: "Weather",
instructions: "Use the weather tool to answer.",
tools: { weather },
model: broadnet("broadnet/glm-5.3"),
});
टूल वाले एजेंट के लिए broadnet/glm-5.3 या broadnet/qwen3.8-27b इस्तेमाल करें। BroadNet के डॉक्स टूल और स्ट्रक्चर्ड आउटपुट सिर्फ़ इन्हीं दो मॉडल के लिए सूचीबद्ध करते हैं।
स्ट्रीमिंग
const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);
ज़रूरी सेटिंग
urlbase URL है, जिसके अंत में/v1हो। Mastra/chat/completionsजोड़ता है।api: "responses"न जोड़ें। Mastra के डॉक्स कहते हैं कि इससे अनुरोध/v1/responsesपर चले जाते हैं। BroadNet, Responses API सूचीबद्ध नहीं करता।- आउटपुट सीमा. DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और रीज़निंग आउटपुट सीमा में गिनी जाती है। अगर आप आउटपुट टोकन सीमित करते हैं, तो 2,000 या ज़्यादा रखें।
कौन-सा मॉडल चुनें
| एजेंट | मॉडल |
|---|---|
| टूल, स्ट्रक्चर्ड आउटपुट, वर्कफ़्लो | broadnet/glm-5.3 |
| टूल के साथ इमेज इनपुट या अरबी टेक्स्ट | broadnet/qwen3.8-27b |
| फ़िक्स्ड कीमत वाले प्लान पर सिर्फ़ टेक्स्ट वाले स्टेप | broadnet/deepseek-v4.1-flash |
हर मॉडल की कीमतें। Mastra के बिना Vercel AI SDK के लिए AI SDK गाइड देखें।
हमने इसे कैसे टेस्ट किया
2026-11-15 को हमने Node 24 के साथ @mastra/core 1.83.0 इंस्टॉल किया और generate, stream और एक टूल एजेंट को एक लोकल मॉक सर्वर के सामने चलाया, जो BroadNet के chat-completions ढाँचे में जवाब देता है और टूल कॉल लौटाता है। हमने लॉग हुए अनुरोध पढ़े। हर कॉल /v1/chat/completions पर गई, apiKey से ली गई Bearer key के साथ। इसी तरह हमें ऊपर की टेबल वाला प्रीफ़िक्स नियम पता चला। हमारे पास BroadNet key नहीं थी, इसलिए हमने असली मॉडल आउटपुट टेस्ट नहीं किया।
समस्या का समाधान
- 404 या model not found. मॉडल ID का प्रीफ़िक्स शायद हट गया है।
idकोbroadnet/broadnet/glm-5.3लिखें। फिर देखें किurlके अंत में/v1है। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट पर सिर्फ़broadnet/gemma-4-26b-a4bऔर दो Transcribe मॉडल चलते हैं। - 401. प्रोसेस में
BROADNET_API_KEYसेट नहीं है, या key ग़लत है या उसका अलाउंस ख़त्म हो गया है। - ख़ाली जवाब. आउटपुट बजट रीज़निंग में ख़र्च हो गया। जवाब ख़ाली क्यों आते हैं।
- पैरलल स्टेप वाले वर्कफ़्लो में 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है; प्लान सेशन एक बार में एक अनुरोध चलाता है। एरर और रीट्राई देखें।
