Mastra는 AI 에이전트와 워크플로를 위한 TypeScript 프레임워크입니다. 내장 제공자 외에도, 에이전트의 model에 id와 url을 담은 객체를 넘기면 어떤 OpenAI 호환 엔드포인트든 쓸 수 있습니다. BroadNet Inference는 https://inference.broadnet.ai/v1 주소에서 표준 chat completions를 제공하므로 이 방식으로 연결되는데, 모델 ID에 주의할 점이 하나 있습니다. BroadRouter는 BroadNet이 운영하는 사이트입니다. 아래 내용은 Mastra의 모델 문서와 @mastra/core 1.83.0을 따릅니다.
설치
npm install @mastra/core zod
export BROADNET_API_KEY='your-broadnet-key'
에이전트 연결하기
import { Agent } from "@mastra/core/agent";
const broadnet = (model: string) => ({
id: `broadnet/${model}`, // Mastra strips the first segment
url: "https://inference.broadnet.ai/v1",
apiKey: process.env.BROADNET_API_KEY,
});
export const assistant = new Agent({
id: "assistant",
name: "Assistant",
instructions: "You are a concise assistant.",
model: broadnet("broadnet/glm-5.3"), // sends broadnet/glm-5.3
});
const res = await assistant.generate("Give me three names for a Go linting tool.");
console.log(res.text);
접두사를 두 번 쓰는 이유
Mastra 문서에 따르면 id를 provider/model 형식으로 쓰면 원격 서버에 모델 이름만 전송되고, gateway/provider/model 형식으로 쓰면 이름에 제공자가 남습니다. BroadNet의 ID에는 슬래시가 들어 있으므로 긴 형식이 필요합니다. 저희 테스트 결과는 다음과 같습니다.
Mastra id |
BroadNet이 받은 모델 ID |
|---|---|
broadnet/glm-5.3 |
glm-5.3 (틀림) |
broadnet/broadnet/glm-5.3 |
broadnet/glm-5.3 (맞음) |
위의 헬퍼 함수가 이 추가 세그먼트를 자동으로 붙입니다.
도구
import { createTool } from "@mastra/core/tools";
import { z } from "zod";
const weather = createTool({
id: "get_weather",
description: "Get the weather for a city",
inputSchema: z.object({ city: z.string() }),
execute: async (input) => ({ city: input.city, tempC: 21 }),
});
const agent = new Agent({
id: "weather",
name: "Weather",
instructions: "Use the weather tool to answer.",
tools: { weather },
model: broadnet("broadnet/glm-5.3"),
});
도구를 쓰는 에이전트에는 broadnet/glm-5.3 또는 broadnet/qwen3.8-27b 모델을 쓰세요. BroadNet 문서는 도구와 구조화된 출력을 이 두 모델에만 표기합니다.
스트리밍
const stream = await assistant.stream("Explain vector search in two sentences.");
for await (const chunk of stream.textStream) process.stdout.write(chunk);
중요한 설정
url값은/v1로 끝나는 base URL입니다./chat/completions는 Mastra가 붙입니다.api: "responses"를 추가하지 마세요. Mastra 문서에 따르면 이 설정은/v1/responses로 전환합니다. BroadNet은 Responses API를 표기하지 않습니다.- 출력 한도. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B는 답하기 전에 추론하며, 그 추론도 출력 한도에 포함됩니다. 출력 토큰에 상한을 둔다면 2,000 이상으로 남겨 두세요.
어떤 모델을 고를까
| 에이전트 | 모델 |
|---|---|
| 도구, 구조화된 출력, 워크플로 | broadnet/glm-5.3 |
| 도구와 이미지 입력 또는 아랍어 텍스트 | broadnet/qwen3.8-27b |
| 정액 플랜의 텍스트 전용 단계 | broadnet/deepseek-v4.1-flash |
모든 모델의 가격을 확인하세요. Mastra 없이 Vercel AI SDK를 쓰려면 AI SDK 가이드를 참고하세요.
테스트 방법
2026-11-15에 Node 24로 @mastra/core 1.83.0을 설치하고, BroadNet의 chat completions 형식을 흉내 내며 도구 호출을 돌려주는 로컬 모의 서버를 대상으로 generate, stream, 도구 에이전트를 실행했습니다. 기록된 요청을 읽어 보니 모든 호출이 apiKey의 Bearer 키와 함께 /v1/chat/completions로 갔습니다. 위 표의 접두사 규칙도 이렇게 찾았습니다. BroadNet 키가 없었기 때문에 실제 모델 출력은 테스트하지 않았습니다.
문제 해결
- 404 또는 모델을 찾을 수 없음. 모델 ID에서 접두사가 빠졌을 가능성이 큽니다.
id를broadnet/broadnet/glm-5.3형식으로 쓰세요. 그다음url이/v1로 끝나는지 확인하세요. 유료 모델은 충전이 필요하며, 초기 크레딧($5 상당)으로는broadnet/gemma-4-26b-a4b모델과 Transcribe 모델 두 개만 쓸 수 있습니다. - 401. 프로세스에
BROADNET_API_KEY가 설정되지 않았거나, 키가 잘못되었거나 사용 가능 금액이 소진된 것입니다. - 빈 응답. 출력 예산을 추론에 다 썼습니다. 답변이 비어서 오는 이유를 참고하세요.
- 병렬 단계가 있는 워크플로에서 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용하고, 플랜 세션은 한 번에 하나씩 실행합니다. 오류와 재시도를 참고하세요.
