Open WebUI는 직접 호스팅하는 채팅 인터페이스입니다. OpenAI chat completions 프로토콜을 구현한 제공업체라면 어디든 연결할 수 있고, BroadNet Inference도 이를 구현합니다. 아래 단계는 OpenAI 호환 제공자에 대한 Open WebUI 가이드를 따릅니다.
설정
-
BroadNet 키를 받습니다. 여러 사람이 쓰는 채팅 UI에는 종량제 키가 맞습니다. API 키와 IP 허용 목록을 참고하세요.
-
연결 페이지를 엽니다. 관리자 영역의 Settings > Connections로 가서 Manage OpenAI API Connections를 찾으세요.
-
Add Connection을 클릭하고 다음과 같이 입력하세요.
필드 값 URL https://inference.broadnet.ai/v1(끝에 슬래시 없음)API Key BroadNet 키 Model IDs 아래 ID를 + 아이콘으로 하나씩 추가 -
모델 ID를 직접 추가합니다.
broadnet/glm-5.3값을 입력하고 **+**를 클릭한 뒤, 원하는 다른 모델도 같은 방식으로 추가하세요. BroadNet 문서는GET /v1/models를 모니터링용 공개 카탈로그 메타데이터라고 설명하므로, 모델 선택 목록을 채우는 용도로 기대하지 마세요. -
Save를 클릭합니다. Open WebUI 문서에 따르면 저장할 때 연결을 테스트하지는 않습니다.
-
채팅을 시작하고 모델 선택기에서 모델을 고르세요.
환경 변수로 설정하기
Open WebUI를 Docker로 실행한다면 시작할 때 연결을 설정할 수 있습니다.
OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key
기존 OpenAI 연결 옆에 BroadNet을 추가하려면 복수형 변수 OPENAI_API_BASE_URLS와 OPENAI_API_KEYS를 쓰고 값을 세미콜론으로 구분하세요. OPENAI_API_CONFIGS는 model_ids 같은 연결별 옵션을 설정하며, 목록에서 그 연결의 인덱스를 키로 씁니다.
OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'
Open WebUI의 환경 변수 레퍼런스는 이 값들을 ConfigVar 설정으로 표시합니다. 첫 실행 때 읽어서 데이터베이스에 저장하고, 그 뒤로는 관리자 패널의 값이 우선합니다. 관리자 영역의 Settings > Connections에서 연결을 수정하거나, 시작할 때마다 환경 변수를 적용하고 싶다면 ENABLE_PERSISTENT_CONFIG=False를 설정하세요.
어떤 모델을 고를까
| 용도 | 모델 | 컨텍스트 |
|---|---|---|
| 일반 채팅, 도구, JSON | broadnet/glm-5.3 |
1,048,576 |
| 이미지 질문, 아랍어 | broadnet/qwen3.8-27b |
262,144 |
| 긴 문서, 이미지 | broadnet/deepseek-v4.1-flash |
1,048,576 |
| 저비용, 무료 크레딧 | broadnet/gemma-4-26b-a4b |
32,768 |
BroadNet은 걸프 방언과 이집트 방언을 포함해 아랍어로 Qwen3.8 27B를 테스트했습니다. 아랍어용 LLM 고르기를 참고하세요. 초기 크레딧($5 상당)으로 쓸 수 있는 채팅 모델은 Gemma 4 VL 26B뿐이며, 이 크레딧은 Transcribe 모델 두 개에도 쓸 수 있습니다. 모델별 가격은 가격 페이지에 있습니다.
Open WebUI는 temperature, max_tokens 같은 표준 파라미터를 전달하며, 모델과 서버가 tools를 지원하면 도구 사용도 지원합니다. BroadNet은 GLM 5.3과 Qwen3.8 27B에 도구를 표기합니다.
문제 해결
- Verify Connection이 400, 401, 403으로 실패함. Open WebUI의 확인 버튼은
/models를 호출합니다. Open WebUI 문서에 따르면 그래도 chat completions는 작동할 수 있습니다. ID를 허용 목록에 추가하고 채팅을 테스트해 보세요. 채팅도 401을 반환한다면 키가 틀렸거나 만료되었거나, 종량제 사용 가능 금액이 소진된 것입니다. - 모델은 목록에 있는데 첫 메시지가 실패함. ID가
broadnet/접두사까지 포함해 BroadNet의 ID와 정확히 같은지 확인하세요. GLM 5.3, Qwen3.8 27B, DeepSeek V4.1 Flash는 충전이 필요합니다. - 빈 응답. 추론 모델(DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B)은 출력 토큰을 먼저 추론에 씁니다. 모델의 Advanced Params에서 max_tokens를 설정했다면 늘리거나 지우세요. 답변이 비어서 오는 이유를 참고하세요.
- 여러 사람이 채팅할 때 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다. Open WebUI는 채팅 제목 생성 같은 백그라운드 호출도 같은 키로 보냅니다. 오류와 재시도를 참고하세요.
- 환경 변수를 바꿔도 반영되지 않음. 첫 실행 때 예전 값이 저장되었습니다. 관리자 패널에서 연결을 수정하거나 위의 환경 변수 섹션을 참고하세요.
- 플랜 키 사용. 무제한 플랜 세션은 한 번에 요청 하나를 처리하고, 키는 공유할 수 없습니다. 혼자 쓰는 개인 인스턴스에 적합하며, 다른 사용자의 요청은 대기열에 쌓입니다.
