BroadRouter
시작하기

Continue에서 BroadNet Inference 쓰기(config.yaml과 apiBase)

업데이트

~/.continue/config.yaml에 모델을 하나 추가하고 provider는 openai, model은 broadnet/glm-5.3 같은 BroadNet ID, apiBase는 https://inference.broadnet.ai/v1, apiKey는 BroadNet 키로 지정하세요. Agent 모드를 쓰려면 capabilities에 tool_use를 넣고, defaultCompletionOptions 아래에 contextLength와 maxTokens를 설정하세요.

Continue는 VS Code와 JetBrains용 오픈 소스 AI 어시스턴트입니다. Continue의 OpenAI 제공자 문서에 나온 대로, openai 제공자에 apiBase를 덮어써서 OpenAI 호환 서버에 연결합니다. BroadNet Inference도 이 방식에 맞습니다. 요청 형식은 같고, Base URL과 모델 ID만 다릅니다.

설정

  1. 콘솔에서 BroadNet 키를 받습니다. API 키를 참고하세요.
  2. 로컬 설정 파일을 엽니다. macOS와 Linux에서는 ~/.continue/config.yaml, Windows에서는 %USERPROFILE%\.continue\config.yaml에 있습니다. IDE에서는 채팅 입력창 위의 설정(configs) 드롭다운을 열고 Local Config 옆의 톱니바퀴 아이콘을 클릭하세요.
  3. 모델을 추가합니다.
name: My Config
version: 0.0.1
schema: v1
models:
  - name: BroadNet GLM 5.3
    provider: openai
    model: broadnet/glm-5.3
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    roles:
      - chat
      - edit
      - apply
    capabilities:
      - tool_use
    defaultCompletionOptions:
      contextLength: 1048576
      maxTokens: 8000
  - name: BroadNet Qwen3.8 27B
    provider: openai
    model: broadnet/qwen3.8-27b
    apiBase: https://inference.broadnet.ai/v1
    apiKey: your-broadnet-key
    capabilities:
      - tool_use
      - image_input
    defaultCompletionOptions:
      contextLength: 262144
      maxTokens: 8000
  1. 저장하고 모델을 고릅니다. Continue 패널의 모델 선택기에서 고르세요.

이 파일에는 키가 들어 있으니 버전 관리에 올리지 마세요.

각 필드의 역할

  • provider: openai는 Continue가 표준 chat completions 요청을 보내게 합니다.
  • apiBase는 기본 OpenAI 주소를 대체합니다. /chat/completions는 붙이지 마세요. 경로는 Continue가 붙입니다.
  • capabilities는 Continue의 자동 감지를 덮어씁니다. Continue 레퍼런스에 따르면 Agent 모드에는 tool_use가 필요하고, image_input은 이미지 업로드를 켭니다. 커스텀 ID에 대해서는 Continue가 이를 감지하지 못하므로 직접 설정하세요.
  • contextLength와 maxTokens는 defaultCompletionOptions 아래에 둡니다. BroadNet에서는 추론도 maxTokens에 포함되므로 여유를 남기세요.
  • roles의 기본값은 chat, edit, apply, summarize입니다. 여기서는 autocomplete를 뺐습니다. 이 모델들은 답하기 전에 추론하므로, 키 입력 단위의 자동 완성보다 채팅과 편집에 더 잘 맞습니다.

어떤 모델을 고를까

용도 모델 이유
채팅과 Agent 모드 broadnet/glm-5.3 도구와 구조화된 출력, 1M 컨텍스트
스크린샷, 아랍어 broadnet/qwen3.8-27b 도구와 이미지 입력, 262K 컨텍스트
정액 플랜에서 긴 채팅 broadnet/deepseek-v4.1-flash 무제한 플랜, 1M 컨텍스트, 도구 지원은 표기되지 않음

DeepSeek V4.1 Flash에서는 직접 테스트해서 도구 호출이 작동하는 것을 확인하지 않았다면 tool_use를 빼고, contextLength: 1048576으로 설정하세요. 모든 모델의 가격은 가격 페이지에 있습니다. 한도는 GLM 5.3 모델 페이지에서 확인하세요.

문제 해결

  • 401. apiKey를 확인하세요. 틀렸거나 만료되었거나 사용 가능 금액이 소진된 종량제 키는 401을 반환합니다.
  • 첫 요청에서 모델 오류가 남. model은 broadnet/ 접두사를 포함한 BroadNet ID와 정확히 같아야 합니다. GLM 5.3, Qwen3.8 27B, DeepSeek V4.1 Flash는 충전이 필요하며, 초기 크레딧($5 상당)은 BroadNet Gemma 4 VL 26B와 Transcribe 모델 두 개에 쓸 수 있습니다.
  • 빈 답변이나 중간에 끊기는 답변. maxTokens를 늘리세요. 답변이 비어서 오는 이유를 참고하세요.
  • 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다. Agent 모드는 연달아 여러 번 호출하므로, 워크플로에 백오프를 넣거나 실행 간격을 두세요. 오류와 재시도를 참고하세요.
  • 플랜 키 하나로 여러 에이전트를 동시에 실행. 무제한 플랜 세션 하나는 한 번에 요청 하나를 처리합니다. 병렬로 돌리는 에이전트마다 세션을 따로 주세요.
  • 엔드포인트가 잘못됨. Continue 문서에는 useLegacyCompletionsEndpoint와 useResponsesApi가 나옵니다. legacy 옵션은 설정하지 마세요. BroadNet은 /v1/chat/completions를 제공합니다. Continue는 OpenAI의 o 시리즈와 GPT-5 모델에만 기본으로 /responses를 쓰므로, BroadNet ID는 별도 설정 없이 chat completions를 씁니다.

자주 묻는 질문

Continue의 config.yaml은 어디에 있나요?

로컬 파일은 macOS와 Linux에서는 ~/.continue/config.yaml, Windows에서는 %USERPROFILE%\.continue\config.yaml입니다. 설정(configs) 드롭다운에서 Local Config 옆의 톱니바퀴 아이콘으로 열 수도 있습니다.

BroadNet 모델로 Agent 모드를 쓸 수 없는 이유는 무엇인가요?

Continue의 Agent 모드에는 tool_use capability가 필요합니다. 모델 항목에 tool_use가 담긴 capabilities를 추가하고, broadnet/glm-5.3처럼 BroadNet이 도구 지원을 표기한 모델을 고르세요.

Continue가 빈 답변을 반환하는 이유는 무엇인가요?

답변이 시작되기 전에 추론이 maxTokens를 다 써 버렸기 때문입니다. defaultCompletionOptions 아래의 maxTokens를 수천 정도로 늘리세요.

Continue에는 config.json과 config.yaml 중 무엇을 써야 하나요?

config.yaml을 쓰세요. Continue 문서는 config.json과 그 레퍼런스를 지원 중단(deprecated)으로 표시하고 있으며, 현재 예제는 모두 schema v1의 YAML을 씁니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기