Jan은 로컬 모델을 실행하고 클라우드 API에도 연결하는 오픈 소스 데스크톱 채팅 앱입니다. OpenAI 형식을 쓰는 서비스라면 무엇이든 커스텀 제공자로 추가할 수 있습니다. BroadNet Inference는 https://inference.broadnet.ai/v1 주소에서 표준 chat completions를 제공합니다. BroadRouter는 BroadNet이 운영하는 사이트이며, 아래 단계는 Jan 0.8.8 기준 Jan의 Custom Endpoints 문서를 따릅니다.
설정
-
키를 받습니다. BroadNet 콘솔에서 종량제 키를 만들거나, 시간제 키나 플랜을 구매하세요.
-
대화 상자를 엽니다. Settings > Model Providers로 가서 목록 옆의 Add Provider 버튼을 클릭하세요.
-
API 형식을 고릅니다. 기본값인 OpenAI-compatible을 선택하세요.
-
세부 정보를 입력합니다.
필드 값 Provider name BroadNet Base URL https://inference.broadnet.ai/v1API key BroadNet 키 -
Create를 클릭하세요.
-
모델을 직접 추가합니다. 제공자의 Models 섹션에서 **+**를 클릭하고 채팅 모델 ID를 정확히 입력하세요. 예:
broadnet/glm-5.3 -
기능을 설정합니다. 각 모델 옆의 연필 아이콘을 클릭해 그 모델이 지원하는 기능을 켜세요(아래 표 참고). Jan은 커스텀 제공자의 기능을 감지하지 못합니다.
-
테스트합니다. 새 채팅을 시작하고 모델 선택기에서 BroadNet 모델을 고른 뒤 짧은 메시지를 보내세요.
Jan은 저장할 때 https://inference.broadnet.ai/v1/models를 가져옵니다. BroadNet 문서는 이 엔드포인트를 모니터링용 카탈로그 메타데이터라고 설명하며, 2026년 11월 15일에 확인했을 때는 전사 모델 두 개만 나열되어 있었습니다. 이 모델들은 채팅을 할 수 없으니, 목록에 나타나면 지우세요.
모델 ID와 기능
| 모델 | ID | 도구 | 이미지 | 컨텍스트 |
|---|---|---|---|---|
| GLM 5.3 | broadnet/glm-5.3 |
켬 | 끔 | 1,048,576 |
| Qwen3.8 27B | broadnet/qwen3.8-27b |
켬 | 켬 | 262,144 |
| DeepSeek V4.1 Flash | broadnet/deepseek-v4.1-flash |
끔(BroadNet 미표기) | 켬 | 1,048,576 |
| BroadNet Gemma 4 VL 26B | broadnet/gemma-4-26b-a4b |
끔 | 켬 | 32,768 |
broadnet/gemma-4-26b-a4b 모델은 초기 크레딧($5 상당)으로 실행되는 유일한 채팅 모델이며, BroadNet 시간제 키(1시간 $0.50, 스트림 1개)가 쓰는 모델이기도 합니다. 나머지 모델은 충전이 필요하고, DeepSeek V4.1 Flash는 무제한 플랜으로도 쓸 수 있습니다.
바꿔 둘 만한 설정
- 출력 한도. 이 중 세 모델은 답하기 전에 추론하며, 그 추론도
max_tokens에 포함됩니다. BroadNet 모델에 출력 한도를 설정한다면 1,000 토큰 이상으로 두세요. - 샘플러. Jan은 커스텀 제공자에 샘플링 파라미터 전체를 노출하는데, Jan 문서는 커스텀 엔드포인트가 지원하지 않는 샘플러를 아무 말 없이 무시할 수 있다고 경고합니다. min-P 같은 설정이 아무 효과가 없어 보인다면 그 때문입니다.
- 대체 키. Jan은 제공자마다 키를 여러 개 보관할 수 있고, 401, 403, 429가 나면 다음 키로 재시도합니다. BroadNet 허용 사용 정책은 속도 제한이나 동시 처리 제한을 우회하는 것을 금지하므로, 추가 키는 장애 조치용으로만 쓰고 한도를 늘리는 데 쓰지 마세요.
문제 해결
- 모든 요청에 404. Base URL에
/v1이 빠졌습니다. Jan 문서는 이것이 가장 흔한 실수라고 합니다. - 401 또는 403. 키가 틀렸거나 만료되었거나 사용 가능 금액이 소진되었습니다. 확인했을 때 BroadNet의
/v1/models는 키 없이도 응답했으므로, Test keys가 통과해도 키가 작동한다는 증거는 아닙니다. - Model not found.
broadnet/접두사를 포함해 ID를 확인하세요. 유료 모델은 충전이 필요합니다. - 빈 답변. 추론이 출력 예산을 다 썼습니다. 출력 한도를 늘리세요. 답변이 비어서 오는 이유를 참고하세요.
- 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용하며, 시간제 키는 스트림 하나를 실행합니다. 오류와 재시도를 참고하세요.
