BroadRouter
시작하기

Open WebUI를 BroadNet Inference에 연결하기

업데이트

Open WebUI 관리자 영역의 Settings > Connections로 가서 Manage OpenAI API Connections 아래의 Add Connection을 클릭하세요. URL은 https://inference.broadnet.ai/v1, API Key는 BroadNet 키로 입력하고, broadnet/glm-5.3 같은 모델 ID를 Model IDs 허용 목록에 추가한 뒤 저장하면 됩니다.

Open WebUI는 직접 호스팅하는 채팅 인터페이스입니다. OpenAI chat completions 프로토콜을 구현한 제공업체라면 어디든 연결할 수 있고, BroadNet Inference도 이를 구현합니다. 아래 단계는 OpenAI 호환 제공자에 대한 Open WebUI 가이드를 따릅니다.

설정

  1. BroadNet 키를 받습니다. 여러 사람이 쓰는 채팅 UI에는 종량제 키가 맞습니다. API 키와 IP 허용 목록을 참고하세요.

  2. 연결 페이지를 엽니다. 관리자 영역의 Settings > Connections로 가서 Manage OpenAI API Connections를 찾으세요.

  3. Add Connection을 클릭하고 다음과 같이 입력하세요.

    필드 값
    URL https://inference.broadnet.ai/v1 (끝에 슬래시 없음)
    API Key BroadNet 키
    Model IDs 아래 ID를 + 아이콘으로 하나씩 추가
  4. 모델 ID를 직접 추가합니다. broadnet/glm-5.3 값을 입력하고 **+**를 클릭한 뒤, 원하는 다른 모델도 같은 방식으로 추가하세요. BroadNet 문서는 GET /v1/models를 모니터링용 공개 카탈로그 메타데이터라고 설명하므로, 모델 선택 목록을 채우는 용도로 기대하지 마세요.

  5. Save를 클릭합니다. Open WebUI 문서에 따르면 저장할 때 연결을 테스트하지는 않습니다.

  6. 채팅을 시작하고 모델 선택기에서 모델을 고르세요.

환경 변수로 설정하기

Open WebUI를 Docker로 실행한다면 시작할 때 연결을 설정할 수 있습니다.

OPENAI_API_BASE_URL=https://inference.broadnet.ai/v1
OPENAI_API_KEY=your-broadnet-key

기존 OpenAI 연결 옆에 BroadNet을 추가하려면 복수형 변수 OPENAI_API_BASE_URLS와 OPENAI_API_KEYS를 쓰고 값을 세미콜론으로 구분하세요. OPENAI_API_CONFIGS는 model_ids 같은 연결별 옵션을 설정하며, 목록에서 그 연결의 인덱스를 키로 씁니다.

OPENAI_API_CONFIGS='{"0": {"enable": true, "model_ids": ["broadnet/glm-5.3", "broadnet/qwen3.8-27b"]}}'

Open WebUI의 환경 변수 레퍼런스는 이 값들을 ConfigVar 설정으로 표시합니다. 첫 실행 때 읽어서 데이터베이스에 저장하고, 그 뒤로는 관리자 패널의 값이 우선합니다. 관리자 영역의 Settings > Connections에서 연결을 수정하거나, 시작할 때마다 환경 변수를 적용하고 싶다면 ENABLE_PERSISTENT_CONFIG=False를 설정하세요.

어떤 모델을 고를까

용도 모델 컨텍스트
일반 채팅, 도구, JSON broadnet/glm-5.3 1,048,576
이미지 질문, 아랍어 broadnet/qwen3.8-27b 262,144
긴 문서, 이미지 broadnet/deepseek-v4.1-flash 1,048,576
저비용, 무료 크레딧 broadnet/gemma-4-26b-a4b 32,768

BroadNet은 걸프 방언과 이집트 방언을 포함해 아랍어로 Qwen3.8 27B를 테스트했습니다. 아랍어용 LLM 고르기를 참고하세요. 초기 크레딧($5 상당)으로 쓸 수 있는 채팅 모델은 Gemma 4 VL 26B뿐이며, 이 크레딧은 Transcribe 모델 두 개에도 쓸 수 있습니다. 모델별 가격은 가격 페이지에 있습니다.

Open WebUI는 temperature, max_tokens 같은 표준 파라미터를 전달하며, 모델과 서버가 tools를 지원하면 도구 사용도 지원합니다. BroadNet은 GLM 5.3과 Qwen3.8 27B에 도구를 표기합니다.

문제 해결

  • Verify Connection이 400, 401, 403으로 실패함. Open WebUI의 확인 버튼은 /models를 호출합니다. Open WebUI 문서에 따르면 그래도 chat completions는 작동할 수 있습니다. ID를 허용 목록에 추가하고 채팅을 테스트해 보세요. 채팅도 401을 반환한다면 키가 틀렸거나 만료되었거나, 종량제 사용 가능 금액이 소진된 것입니다.
  • 모델은 목록에 있는데 첫 메시지가 실패함. ID가 broadnet/ 접두사까지 포함해 BroadNet의 ID와 정확히 같은지 확인하세요. GLM 5.3, Qwen3.8 27B, DeepSeek V4.1 Flash는 충전이 필요합니다.
  • 빈 응답. 추론 모델(DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B)은 출력 토큰을 먼저 추론에 씁니다. 모델의 Advanced Params에서 max_tokens를 설정했다면 늘리거나 지우세요. 답변이 비어서 오는 이유를 참고하세요.
  • 여러 사람이 채팅할 때 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다. Open WebUI는 채팅 제목 생성 같은 백그라운드 호출도 같은 키로 보냅니다. 오류와 재시도를 참고하세요.
  • 환경 변수를 바꿔도 반영되지 않음. 첫 실행 때 예전 값이 저장되었습니다. 관리자 패널에서 연결을 수정하거나 위의 환경 변수 섹션을 참고하세요.
  • 플랜 키 사용. 무제한 플랜 세션은 한 번에 요청 하나를 처리하고, 키는 공유할 수 없습니다. 혼자 쓰는 개인 인스턴스에 적합하며, 다른 사용자의 요청은 대기열에 쌓입니다.

자주 묻는 질문

Verify Connection은 실패하는데 채팅은 되는 이유는 무엇인가요?

Open WebUI의 연결 확인 버튼은 제공업체의 /models 엔드포인트를 호출합니다. Open WebUI 문서에 따르면 확인에 실패해도 채팅이 안 된다는 뜻은 아닙니다. BroadNet 모델 ID를 Model IDs 허용 목록에 직접 추가하세요.

환경 변수로 연결을 설정할 수 있나요?

네. OPENAI_API_BASE_URL을 https://inference.broadnet.ai/v1로, OPENAI_API_KEY를 BroadNet 키로 설정하세요. Open WebUI는 이 값을 첫 실행 때 저장하므로, ENABLE_PERSISTENT_CONFIG가 False가 아니면 이후 변수를 바꿔도 무시됩니다.

새로 바꾼 OPENAI_API_BASE_URL 값이 적용되지 않는 이유는 무엇인가요?

Open WebUI는 이 값을 ConfigVar로 다룹니다. 첫 실행 이후에는 데이터베이스에 저장된 값을 씁니다. 관리자 영역의 Settings > Connections에서 URL을 바꾸거나, 시작할 때마다 환경 변수를 읽도록 ENABLE_PERSISTENT_CONFIG=False를 설정하세요.

Open WebUI에서 팀 전체가 무제한 플랜 키 하나를 공유해도 되나요?

안 됩니다. BroadNet 플랜은 키 공유를 허용하지 않으며, 플랜 세션 하나는 한 번에 요청 하나를 처리합니다. 여럿이 함께 쓰는 Open WebUI에는 종량제 키를 쓰세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기