BroadRouter

BroadNet Inference के साथ Mastra एजेंट इस्तेमाल करें

अपडेट किया गया

Mastra Agent में model को एक ऑब्जेक्ट बनाएँ: url में https://inference.broadnet.ai/v1, apiKey में BROADNET_API_KEY, और id में broadnet/broadnet/glm-5.3। Mastra id के पहले हिस्से को प्रोवाइडर का नाम मानकर हटा देता है, इसलिए दोहरे प्रीफ़िक्स से BroadNet को broadnet/glm-5.3 मिलता है। कस्टम URL डिफ़ॉल्ट रूप से chat completions इस्तेमाल करते हैं। टूल के लिए GLM 5.3 या Qwen3.8 27B चुनें।

Mastra, AI एजेंट और वर्कफ़्लो के लिए एक TypeScript फ़्रेमवर्क है। इसके बिल्ट-इन प्रोवाइडर के अलावा, एजेंट का model कोई भी OpenAI-compatible एंडपॉइंट हो सकता है, जिसे id और url वाले ऑब्जेक्ट के रूप में दिया जाता है। BroadNet Inference https://inference.broadnet.ai/v1 पर स्टैंडर्ड chat completions देता है, इसलिए यह इसी तरह चलता है, बस मॉडल ID में एक पेंच है। BroadRouter, BroadNet की अपनी साइट है; यह गाइड Mastra के models डॉक्स और @mastra/core 1.83.0 के अनुसार है।

इंस्टॉल करें

npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'

एजेंट कनेक्ट करें

import { Agent } from "@mastra/core/agent";

const broadnet = (model: string) => ({
  id: `broadnet/${model}`,              // Mastra strips the first segment
  url: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

export const assistant = new Agent({
  id: "assistant",
  name: "Assistant",
  instructions: "You are a concise assistant.",
  model: broadnet("broadnet/glm-5.3"),     // sends broadnet/glm-5.3
});

const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);

दोहरा प्रीफ़िक्स क्यों

Mastra के डॉक्स कहते हैं कि provider/model के रूप में लिखा id रिमोट को सिर्फ़ मॉडल का नाम भेजता है, और gateway/provider/model नाम में प्रोवाइडर को बनाए रखता है। BroadNet के ID में स्लैश है, इसलिए उन्हें लंबा रूप चाहिए। हमारे टेस्ट में:

Mastra id BroadNet को मिला मॉडल ID
broadnet/glm-5.3 glm-5.3 (ग़लत)
broadnet/broadnet/glm-5.3 broadnet/glm-5.3 (सही)

ऊपर वाला helper यह अतिरिक्त हिस्सा आपके लिए जोड़ देता है।

टूल

import { createTool } from "@mastra/core/tools";
import { z } from "zod";

const weather = createTool({
  id: "get_weather",
  description: "Get the weather for a city",
  inputSchema: z.object({ city: z.string() }),
  execute: async (input) => ({ city: input.city, tempC: 21 }),
});

const agent = new Agent({
  id: "weather",
  name: "Weather",
  instructions: "Use the weather tool to answer.",
  tools: { weather },
  model: broadnet("broadnet/glm-5.3"),
});

टूल वाले एजेंट के लिए broadnet/glm-5.3 या broadnet/qwen3.8-27b इस्तेमाल करें। BroadNet के डॉक्स टूल और स्ट्रक्चर्ड आउटपुट सिर्फ़ इन्हीं दो मॉडल के लिए सूचीबद्ध करते हैं।

स्ट्रीमिंग

const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);

ज़रूरी सेटिंग

  • url base URL है, जिसके अंत में /v1 हो। Mastra /chat/completions जोड़ता है।
  • api: "responses" न जोड़ें। Mastra के डॉक्स कहते हैं कि इससे अनुरोध /v1/responses पर चले जाते हैं। BroadNet, Responses API सूचीबद्ध नहीं करता।
  • आउटपुट सीमा. DeepSeek V4.1 Flash, GLM 5.3 और Qwen3.8 27B जवाब देने से पहले रीज़निंग करते हैं, और रीज़निंग आउटपुट सीमा में गिनी जाती है। अगर आप आउटपुट टोकन सीमित करते हैं, तो 2,000 या ज़्यादा रखें।

कौन-सा मॉडल चुनें

एजेंट मॉडल
टूल, स्ट्रक्चर्ड आउटपुट, वर्कफ़्लो broadnet/glm-5.3
टूल के साथ इमेज इनपुट या अरबी टेक्स्ट broadnet/qwen3.8-27b
फ़िक्स्ड कीमत वाले प्लान पर सिर्फ़ टेक्स्ट वाले स्टेप broadnet/deepseek-v4.1-flash

हर मॉडल की कीमतें। Mastra के बिना Vercel AI SDK के लिए AI SDK गाइड देखें।

हमने इसे कैसे टेस्ट किया

2026-11-15 को हमने Node 24 के साथ @mastra/core 1.83.0 इंस्टॉल किया और generate, stream और एक टूल एजेंट को एक लोकल मॉक सर्वर के सामने चलाया, जो BroadNet के chat-completions ढाँचे में जवाब देता है और टूल कॉल लौटाता है। हमने लॉग हुए अनुरोध पढ़े। हर कॉल /v1/chat/completions पर गई, apiKey से ली गई Bearer key के साथ। इसी तरह हमें ऊपर की टेबल वाला प्रीफ़िक्स नियम पता चला। हमारे पास BroadNet key नहीं थी, इसलिए हमने असली मॉडल आउटपुट टेस्ट नहीं किया।

समस्या का समाधान

  • 404 या model not found. मॉडल ID का प्रीफ़िक्स शायद हट गया है। id को broadnet/broadnet/glm-5.3 लिखें। फिर देखें कि url के अंत में /v1 है। पेड मॉडल के लिए टॉप-अप चाहिए; $5 क्रेडिट पर सिर्फ़ broadnet/gemma-4-26b-a4b और दो Transcribe मॉडल चलते हैं।
  • 401. प्रोसेस में BROADNET_API_KEY सेट नहीं है, या key ग़लत है या उसका अलाउंस ख़त्म हो गया है।
  • ख़ाली जवाब. आउटपुट बजट रीज़निंग में ख़र्च हो गया। जवाब ख़ाली क्यों आते हैं।
  • पैरलल स्टेप वाले वर्कफ़्लो में 429. उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है; प्लान सेशन एक बार में एक अनुरोध चलाता है। एरर और रीट्राई देखें।

अक्सर पूछे जाने वाले सवाल

Mastra, broadnet/glm-5.3 की जगह glm-5.3 क्यों भेजता है?

Mastra मॉडल id को provider/model की तरह पढ़ता है और सिर्फ़ पहले स्लैश के बाद का हिस्सा भेजता है। हमारे टेस्ट में id broadnet/glm-5.3 देने पर उसने glm-5.3 भेजा, जिसे BroadNet नहीं पहचानता। id को broadnet/broadnet/glm-5.3 लिखें।

Mastra का url base URL हो या chat completions URL?

base URL। Mastra के डॉक्स OpenAI-compatible एंडपॉइंट का base URL देने को कहते हैं, इसलिए /chat/completions के बिना https://inference.broadnet.ai/v1 इस्तेमाल करें।

क्या कस्टम URL के साथ Mastra, Responses API इस्तेमाल करता है?

डिफ़ॉल्ट रूप से नहीं। Mastra के डॉक्स कहते हैं कि कस्टम एंडपॉइंट chat completions इस्तेमाल करते हैं, जब तक आप api को responses पर सेट न करें। BroadNet के लिए इसे न जोड़ें, क्योंकि वह chat completions देता है।

क्या Mastra के टूल BroadNet पर चलते हैं?

हाँ, उस मॉडल पर जिसके लिए BroadNet टूल सूचीबद्ध करता है: GLM 5.3 या Qwen3.8 27B। हमारे मॉक टेस्ट में एजेंट ने टूल स्कीमा भेजा, टूल चलाया और नतीजा लौटाया।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें