BroadRouter

BroadNet Inference کے ساتھ Mastra ایجنٹس استعمال کریں

اپ ڈیٹ

Mastra Agent میں model کو ایک آبجیکٹ بنائیں: url میں https://inference.broadnet.ai/v1، apiKey میں BROADNET_API_KEY، اور id میں broadnet/broadnet/glm-5.3۔ Mastra، id کے پہلے حصے کو پرووائیڈر کا نام سمجھ کر ہٹا دیتا ہے، اس لیے دوہرے پری فکس سے BroadNet کو broadnet/glm-5.3 ملتا ہے۔ کسٹم URLs ڈیفالٹ طور پر chat completions استعمال کرتے ہیں۔ ٹولز کے لیے GLM 5.3 یا Qwen3.8 27B چنیں۔

Mastra، AI ایجنٹس اور ورک فلوز کے لیے ایک TypeScript فریم ورک ہے۔ اس کے بلٹ اِن پرووائیڈرز کے علاوہ، ایجنٹ کا model کوئی بھی OpenAI-compatible اینڈ پوائنٹ ہو سکتا ہے، جو id اور url والے آبجیکٹ کی صورت میں دیا جاتا ہے۔ BroadNet Inference، https://inference.broadnet.ai/v1 پر معیاری chat completions فراہم کرتا ہے، اس لیے یہ اسی طرح چلتا ہے، بس ماڈل ID میں ایک پیچ ہے۔ BroadRouter، BroadNet کی اپنی سائٹ ہے؛ یہ گائیڈ Mastra کی models دستاویزات اور @mastra/core 1.83.0 کے مطابق ہے۔

انسٹال کریں

npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'

ایجنٹ کنیکٹ کریں

import { Agent } from "@mastra/core/agent";

const broadnet = (model: string) => ({
  id: `broadnet/${model}`,              // Mastra strips the first segment
  url: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

export const assistant = new Agent({
  id: "assistant",
  name: "Assistant",
  instructions: "You are a concise assistant.",
  model: broadnet("broadnet/glm-5.3"),     // sends broadnet/glm-5.3
});

const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);

دوہرا پری فکس کیوں

Mastra کی دستاویزات کہتی ہیں کہ provider/model کی شکل میں لکھا گیا id ریموٹ کو صرف ماڈل کا نام بھیجتا ہے، اور gateway/provider/model نام میں پرووائیڈر کو برقرار رکھتا ہے۔ BroadNet کے IDs میں سلیش ہے، اس لیے انہیں لمبی شکل چاہیے۔ ہمارے ٹیسٹ میں:

Mastra id BroadNet کو ملنے والا ماڈل ID
broadnet/glm-5.3 glm-5.3 (غلط)
broadnet/broadnet/glm-5.3 broadnet/glm-5.3 (درست)

اوپر والا helper یہ اضافی حصہ آپ کے لیے لگا دیتا ہے۔

ٹولز

import { createTool } from "@mastra/core/tools";
import { z } from "zod";

const weather = createTool({
  id: "get_weather",
  description: "Get the weather for a city",
  inputSchema: z.object({ city: z.string() }),
  execute: async (input) => ({ city: input.city, tempC: 21 }),
});

const agent = new Agent({
  id: "weather",
  name: "Weather",
  instructions: "Use the weather tool to answer.",
  tools: { weather },
  model: broadnet("broadnet/glm-5.3"),
});

ٹولز والے ایجنٹس کے لیے broadnet/glm-5.3 یا broadnet/qwen3.8-27b استعمال کریں۔ BroadNet کی دستاویزات ٹولز اور اسٹرکچرڈ آؤٹ پٹ صرف انہی دو ماڈلز کے لیے درج کرتی ہیں۔

اسٹریمنگ

const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);

اہم سیٹنگز

  • url base URL ہے، جس کے آخر میں /v1 ہو۔ Mastra، /chat/completions لگاتا ہے۔
  • api: "responses" شامل نہ کریں۔ Mastra کی دستاویزات کہتی ہیں کہ اس سے درخواستیں /v1/responses پر چلی جاتی ہیں۔ BroadNet، Responses API درج نہیں کرتا۔
  • آؤٹ پٹ کی حد۔ DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور ریزننگ آؤٹ پٹ کی حد میں گنی جاتی ہے۔ اگر آپ آؤٹ پٹ ٹوکنز محدود کرتے ہیں تو 2,000 یا زیادہ رکھیں۔

کون سا ماڈل چنیں

ایجنٹ ماڈل
ٹولز، اسٹرکچرڈ آؤٹ پٹ، ورک فلوز broadnet/glm-5.3
ٹولز کے ساتھ تصویری ان پٹ یا عربی متن broadnet/qwen3.8-27b
مقررہ قیمت والے پلان پر صرف متن والے مراحل broadnet/deepseek-v4.1-flash

ہر ماڈل کی قیمتیں۔ Mastra کے بغیر Vercel AI SDK کے لیے AI SDK گائیڈ دیکھیں۔

ہم نے اسے کیسے ٹیسٹ کیا

2026-11-15 کو ہم نے Node 24 کے ساتھ @mastra/core 1.83.0 انسٹال کیا اور generate، stream اور ایک ٹول ایجنٹ کو ایک لوکل موک سرور کے سامنے چلایا جو BroadNet کی chat-completions ساخت میں جواب دیتا ہے اور ٹول کالز لوٹاتا ہے۔ ہم نے لاگ ہونے والی درخواستیں پڑھیں۔ ہر کال /v1/chat/completions پر گئی، apiKey سے لی گئی Bearer کلید کے ساتھ۔ اسی طرح ہمیں اوپر کی ٹیبل والا پری فکس اصول معلوم ہوا۔ ہمارے پاس BroadNet کلید نہیں تھی، اس لیے ہم نے حقیقی ماڈل آؤٹ پٹ ٹیسٹ نہیں کیا۔

مسائل کا حل

  • 404 یا model not found۔ ماڈل ID کا پری فکس شاید ہٹ گیا ہے۔ id کو broadnet/broadnet/glm-5.3 لکھیں۔ پھر دیکھیں کہ url کے آخر میں /v1 ہے۔ پیڈ ماڈلز کے لیے ٹاپ اپ چاہیے؛ $5 کریڈٹ پر صرف broadnet/gemma-4-26b-a4b اور دو Transcribe ماڈلز چلتے ہیں۔
  • 401۔ پروسیس میں BROADNET_API_KEY سیٹ نہیں، یا کلید غلط ہے یا اس کا الاؤنس ختم ہو گیا ہے۔
  • خالی جوابات۔ آؤٹ پٹ بجٹ ریزننگ میں خرچ ہو گیا۔ جوابات خالی کیوں آتے ہیں۔
  • متوازی مراحل والے ورک فلوز میں 429۔ استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہے؛ پلان سیشن ایک وقت میں ایک درخواست چلاتا ہے۔ ایررز اور دوبارہ کوشش دیکھیں۔

عام سوالات

Mastra، broadnet/glm-5.3 کی جگہ glm-5.3 کیوں بھیجتا ہے؟

Mastra ماڈل id کو provider/model کی طرح پڑھتا ہے اور صرف پہلے سلیش کے بعد والا حصہ بھیجتا ہے۔ ہمارے ٹیسٹ میں id کو broadnet/glm-5.3 رکھنے پر اس نے glm-5.3 بھیجا، جسے BroadNet نہیں پہچانتا۔ id کو broadnet/broadnet/glm-5.3 لکھیں۔

Mastra کا url، base URL ہو یا chat completions URL؟

base URL۔ Mastra کی دستاویزات OpenAI-compatible اینڈ پوائنٹ کا base URL دینے کو کہتی ہیں، اس لیے /chat/completions کے بغیر https://inference.broadnet.ai/v1 استعمال کریں۔

کیا کسٹم URL کے ساتھ Mastra، Responses API استعمال کرتا ہے؟

ڈیفالٹ طور پر نہیں۔ Mastra کی دستاویزات کہتی ہیں کہ کسٹم اینڈ پوائنٹس chat completions استعمال کرتے ہیں، جب تک آپ api کو responses پر سیٹ نہ کریں۔ BroadNet کے لیے اسے شامل نہ کریں، کیونکہ وہ chat completions فراہم کرتا ہے۔

کیا Mastra کے ٹولز BroadNet پر چلتے ہیں؟

ہاں، اس ماڈل پر جس کے لیے BroadNet ٹولز درج کرتا ہے: GLM 5.3 یا Qwen3.8 27B۔ ہمارے موک ٹیسٹ میں ایجنٹ نے ٹول اسکیما بھیجا، ٹول چلایا اور نتیجہ لوٹایا۔

Markdown میں پڑھیںChatGPT سے پوچھیںClaude سے پوچھیںPerplexity سے پوچھیں