BroadRouter

Usar agentes de Mastra con BroadNet Inference

Actualizado

En un Agent de Mastra, defina model como un objeto con url https://inference.broadnet.ai/v1, apiKey desde BROADNET_API_KEY e id broadnet/broadnet/glm-5.3. Mastra trata la primera parte del id como nombre de proveedor y la elimina, así que el prefijo duplicado envía broadnet/glm-5.3 a BroadNet. Las URL personalizadas usan chat completions de forma predeterminada. Use GLM 5.3 o Qwen3.8 27B para herramientas.

Mastra es un framework de TypeScript para agentes de IA y workflows. Además de sus proveedores integrados, el model de un agente puede ser cualquier endpoint compatible con OpenAI, indicado como un objeto con id y url. BroadNet Inference sirve chat completions estándar en https://inference.broadnet.ai/v1, así que funciona de esta manera, con un detalle en el ID del modelo. BroadRouter es el sitio de BroadNet; esta guía sigue la documentación de modelos de Mastra y @mastra/core 1.83.0.

Instalación

npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'

Conectar un agente

import { Agent } from "@mastra/core/agent";

const broadnet = (model: string) => ({
  id: `broadnet/${model}`,              // Mastra strips the first segment
  url: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

export const assistant = new Agent({
  id: "assistant",
  name: "Assistant",
  instructions: "You are a concise assistant.",
  model: broadnet("broadnet/glm-5.3"),     // sends broadnet/glm-5.3
});

const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);

Por qué el prefijo duplicado

La documentación de Mastra dice que un id escrito como provider/model envía al servidor remoto solo el nombre del modelo, mientras que gateway/provider/model conserva el proveedor en el nombre. Los IDs de BroadNet contienen una barra, así que necesitan la forma larga. En nuestra prueba:

id en Mastra ID de modelo que recibió BroadNet
broadnet/glm-5.3 glm-5.3 (incorrecto)
broadnet/broadnet/glm-5.3 broadnet/glm-5.3 (correcto)

La función auxiliar de arriba agrega el segmento extra por usted.

Herramientas

import { createTool } from "@mastra/core/tools";
import { z } from "zod";

const weather = createTool({
  id: "get_weather",
  description: "Get the weather for a city",
  inputSchema: z.object({ city: z.string() }),
  execute: async (input) => ({ city: input.city, tempC: 21 }),
});

const agent = new Agent({
  id: "weather",
  name: "Weather",
  instructions: "Use the weather tool to answer.",
  tools: { weather },
  model: broadnet("broadnet/glm-5.3"),
});

Use broadnet/glm-5.3 o broadnet/qwen3.8-27b para agentes con herramientas. La documentación de BroadNet indica herramientas y salida estructurada solo para estos dos modelos.

Streaming

const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);

Configuración que importa

  • url es la URL base y termina en /v1. Mastra agrega /chat/completions.
  • No agregue api: "responses". La documentación de Mastra dice que eso cambia a /v1/responses. BroadNet no lista la Responses API.
  • Límite de salida. DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y el razonamiento cuenta para el límite de salida. Si limita los tokens de salida, deje 2,000 o más.

Qué modelo elegir

Agente Modelo
Herramientas, salida estructurada, workflows broadnet/glm-5.3
Herramientas con entrada de imágenes o texto en árabe broadnet/qwen3.8-27b
Pasos solo de texto en un plan de precio fijo broadnet/deepseek-v4.1-flash

Precios de todos los modelos. Para usar el Vercel AI SDK sin Mastra, consulte la guía del AI SDK.

Cómo lo probamos

El 2026-11-15 instalamos @mastra/core 1.83.0 con Node 24 y ejecutamos generate, stream y un agente con herramientas contra un servidor simulado (mock) local que habla el formato de chat completions de BroadNet y devuelve llamadas a herramientas. Leímos las solicitudes registradas. Todas fueron a /v1/chat/completions con una clave Bearer tomada de apiKey. Así encontramos la regla del prefijo de la tabla de arriba. No teníamos una clave de BroadNet, así que no probamos la salida real de un modelo.

Solución de problemas

  • 404 o modelo no encontrado. Probablemente el ID del modelo perdió su prefijo. Escriba el id como broadnet/broadnet/glm-5.3. Luego verifique que url termine en /v1. Los modelos de pago requieren una recarga; el crédito inicial de $5 cubre solo broadnet/gemma-4-26b-a4b y los dos modelos Transcribe.
  • 401. BROADNET_API_KEY no está definida en el proceso, o la clave es incorrecta o se quedó sin saldo.
  • Respuestas vacías. El razonamiento agotó el presupuesto de salida. Por qué las respuestas llegan vacías.
  • 429 en workflows con pasos en paralelo. Una clave de pago por uso permite 30 solicitudes por minuto y 4 a la vez; una sesión de plan ejecuta una por vez. Consulte errores y reintentos.

Preguntas frecuentes

¿Por qué Mastra envía glm-5.3 en lugar de broadnet/glm-5.3?

Mastra lee el id del modelo como proveedor/modelo y envía solo la parte posterior a la primera barra. Con el id broadnet/glm-5.3 envió glm-5.3 en nuestra prueba, que BroadNet no reconoce. Escriba el id como broadnet/broadnet/glm-5.3.

¿La url de Mastra debe ser la URL base o la URL de chat completions?

La URL base. La documentación de Mastra indica usar la URL base del endpoint compatible con OpenAI, así que use https://inference.broadnet.ai/v1 sin /chat/completions.

¿Mastra usa la Responses API con una URL personalizada?

No de forma predeterminada. La documentación de Mastra dice que los endpoints personalizados usan chat completions salvo que agregue api con el valor responses. No lo agregue para BroadNet, que sirve chat completions.

¿Funcionan las herramientas de Mastra en BroadNet?

Sí, en un modelo para el que BroadNet indica herramientas: GLM 5.3 o Qwen3.8 27B. En nuestra prueba con el servidor simulado, el agente envió el esquema de la herramienta, la ejecutó y devolvió el resultado.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity