BroadRouter

BroadNet Inference에서 Mastra 에이전트 사용하기

업데이트

Mastra Agent에서 model을 객체로 지정하세요. url은 https://inference.broadnet.ai/v1, apiKey는 BROADNET_API_KEY에서 읽고, id는 broadnet/broadnet/glm-5.3 형식으로 씁니다. Mastra는 id의 첫 부분을 제공자 이름으로 보고 떼어 내므로, 접두사를 두 번 써야 BroadNet에 broadnet/glm-5.3 값이 전송됩니다. 커스텀 URL은 기본적으로 chat completions를 씁니다. 도구에는 GLM 5.3이나 Qwen3.8 27B를 쓰세요.

Mastra는 AI 에이전트와 워크플로를 위한 TypeScript 프레임워크입니다. 내장 제공자 외에도, 에이전트의 model에 id와 url을 담은 객체를 넘기면 어떤 OpenAI 호환 엔드포인트든 쓸 수 있습니다. BroadNet Inference는 https://inference.broadnet.ai/v1 주소에서 표준 chat completions를 제공하므로 이 방식으로 연결되는데, 모델 ID에 주의할 점이 하나 있습니다. BroadRouter는 BroadNet이 운영하는 사이트입니다. 아래 내용은 Mastra의 모델 문서와 @mastra/core 1.83.0을 따릅니다.

설치

npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'

에이전트 연결하기

import { Agent } from "@mastra/core/agent";

const broadnet = (model: string) => ({
  id: `broadnet/${model}`,              // Mastra strips the first segment
  url: "https://inference.broadnet.ai/v1",
  apiKey: process.env.BROADNET_API_KEY,
});

export const assistant = new Agent({
  id: "assistant",
  name: "Assistant",
  instructions: "You are a concise assistant.",
  model: broadnet("broadnet/glm-5.3"),     // sends broadnet/glm-5.3
});

const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);

접두사를 두 번 쓰는 이유

Mastra 문서에 따르면 id를 provider/model 형식으로 쓰면 원격 서버에 모델 이름만 전송되고, gateway/provider/model 형식으로 쓰면 이름에 제공자가 남습니다. BroadNet의 ID에는 슬래시가 들어 있으므로 긴 형식이 필요합니다. 저희 테스트 결과는 다음과 같습니다.

Mastra id BroadNet이 받은 모델 ID
broadnet/glm-5.3 glm-5.3 (틀림)
broadnet/broadnet/glm-5.3 broadnet/glm-5.3 (맞음)

위의 헬퍼 함수가 이 추가 세그먼트를 자동으로 붙입니다.

도구

import { createTool } from "@mastra/core/tools";
import { z } from "zod";

const weather = createTool({
  id: "get_weather",
  description: "Get the weather for a city",
  inputSchema: z.object({ city: z.string() }),
  execute: async (input) => ({ city: input.city, tempC: 21 }),
});

const agent = new Agent({
  id: "weather",
  name: "Weather",
  instructions: "Use the weather tool to answer.",
  tools: { weather },
  model: broadnet("broadnet/glm-5.3"),
});

도구를 쓰는 에이전트에는 broadnet/glm-5.3 또는 broadnet/qwen3.8-27b 모델을 쓰세요. BroadNet 문서는 도구와 구조화된 출력을 이 두 모델에만 표기합니다.

스트리밍

const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);

중요한 설정

  • url 값은 /v1로 끝나는 base URL입니다. /chat/completions는 Mastra가 붙입니다.
  • api: "responses"를 추가하지 마세요. Mastra 문서에 따르면 이 설정은 /v1/responses로 전환합니다. BroadNet은 Responses API를 표기하지 않습니다.
  • 출력 한도. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B는 답하기 전에 추론하며, 그 추론도 출력 한도에 포함됩니다. 출력 토큰에 상한을 둔다면 2,000 이상으로 남겨 두세요.

어떤 모델을 고를까

에이전트 모델
도구, 구조화된 출력, 워크플로 broadnet/glm-5.3
도구와 이미지 입력 또는 아랍어 텍스트 broadnet/qwen3.8-27b
정액 플랜의 텍스트 전용 단계 broadnet/deepseek-v4.1-flash

모든 모델의 가격을 확인하세요. Mastra 없이 Vercel AI SDK를 쓰려면 AI SDK 가이드를 참고하세요.

테스트 방법

2026-11-15에 Node 24로 @mastra/core 1.83.0을 설치하고, BroadNet의 chat completions 형식을 흉내 내며 도구 호출을 돌려주는 로컬 모의 서버를 대상으로 generate, stream, 도구 에이전트를 실행했습니다. 기록된 요청을 읽어 보니 모든 호출이 apiKey의 Bearer 키와 함께 /v1/chat/completions로 갔습니다. 위 표의 접두사 규칙도 이렇게 찾았습니다. BroadNet 키가 없었기 때문에 실제 모델 출력은 테스트하지 않았습니다.

문제 해결

  • 404 또는 모델을 찾을 수 없음. 모델 ID에서 접두사가 빠졌을 가능성이 큽니다. id를 broadnet/broadnet/glm-5.3 형식으로 쓰세요. 그다음 url이 /v1로 끝나는지 확인하세요. 유료 모델은 충전이 필요하며, 초기 크레딧($5 상당)으로는 broadnet/gemma-4-26b-a4b 모델과 Transcribe 모델 두 개만 쓸 수 있습니다.
  • 401. 프로세스에 BROADNET_API_KEY가 설정되지 않았거나, 키가 잘못되었거나 사용 가능 금액이 소진된 것입니다.
  • 빈 응답. 출력 예산을 추론에 다 썼습니다. 답변이 비어서 오는 이유를 참고하세요.
  • 병렬 단계가 있는 워크플로에서 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용하고, 플랜 세션은 한 번에 하나씩 실행합니다. 오류와 재시도를 참고하세요.

자주 묻는 질문

Mastra가 broadnet/glm-5.3 대신 glm-5.3을 보내는 이유는 무엇인가요?

Mastra는 모델 id를 provider/model로 읽고 첫 번째 슬래시 뒤의 부분만 보냅니다. 저희 테스트에서 id를 broadnet/glm-5.3으로 쓰면 glm-5.3이 전송되었고, BroadNet은 이를 인식하지 못합니다. id를 broadnet/broadnet/glm-5.3 형식으로 쓰세요.

Mastra의 url에는 base URL과 chat completions URL 중 무엇을 넣나요?

base URL입니다. Mastra 문서는 OpenAI 호환 엔드포인트의 base URL을 쓰라고 안내하므로, /chat/completions 없이 https://inference.broadnet.ai/v1 값을 넣으세요.

Mastra는 커스텀 URL에서 Responses API를 쓰나요?

기본적으로는 아닙니다. Mastra 문서에 따르면 api를 responses로 설정하지 않는 한 커스텀 엔드포인트는 chat completions를 씁니다. BroadNet은 chat completions를 제공하므로 이 설정을 추가하지 마세요.

Mastra 도구가 BroadNet에서 작동하나요?

네. BroadNet이 도구 지원으로 표기한 GLM 5.3이나 Qwen3.8 27B에서 작동합니다. 저희 모의 테스트에서 에이전트는 도구 스키마를 보내고, 도구를 실행하고, 결과를 돌려주었습니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기