LibreChat은 OpenAI 호환 서비스를 커스텀 엔드포인트로 지원하는 오픈 소스 채팅 앱입니다. 엔드포인트는 librechat.yaml에 정의하고, 키는 .env에 두며, Docker에서는 YAML 파일을 컨테이너에 마운트합니다. BroadRouter는 BroadNet이 운영하는 사이트이며, 아래 단계는 LibreChat의 커스텀 엔드포인트 가이드를 따릅니다.
설정
- librechat.yaml을 마운트합니다(Docker만 해당).
docker-compose.override.yml.example을docker-compose.override.yml로 복사하고, 볼륨이 활성화되어 있는지 확인하세요.
services:
api:
volumes:
- type: bind
source: ./librechat.yaml
target: /app/librechat.yaml
- 엔드포인트를 추가합니다. 프로젝트 루트의
librechat.yaml에서endpoints.custom아래에 추가하세요.
endpoints:
custom:
- name: 'BroadNet'
apiKey: '${BROADNET_API_KEY}'
baseURL: 'https://inference.broadnet.ai/v1'
models:
default:
- 'broadnet/glm-5.3'
- 'broadnet/qwen3.8-27b'
- 'broadnet/deepseek-v4.1-flash'
- 'broadnet/gemma-4-26b-a4b'
fetch: false
titleConvo: true
titleModel: 'broadnet/gemma-4-26b-a4b'
modelDisplayLabel: 'BroadNet'
version처럼 파일에 이미 있는 최상위 키는 그대로 두세요.
- 키를 설정합니다.
.env에 넣으세요.
BROADNET_API_KEY=your-broadnet-key
- LibreChat을 재시작합니다. Docker에서는
docker compose down && docker compose up -d, 로컬 설치에서는npm run backend로 재시작하세요. 그러면 엔드포인트 선택 목록에 BroadNet이 나타납니다.
필드 설명
- baseURL. LibreChat이
/chat/completions를 직접 붙이므로, 위처럼/v1루트를 쓰세요.directEndpoint: true는 설정하지 마세요. 이 옵션은 baseURL이 이미 completions URL 전체일 때 씁니다. - fetch: false. LibreChat의 기본값이지만, 선택을 눈에 보이게 하려고 명시했습니다. BroadNet 문서는
GET /v1/models를 모니터링용 공개 카탈로그 메타데이터로 설명하므로,default에 모델을 나열하는 편이 더 예측 가능합니다. - titleModel. LibreChat은 채팅마다 추가 요청을 보내 제목을 만듭니다. 추론하지 않는 작고 저렴한 모델을 쓰면 이 호출이 짧게 끝납니다. BroadNet 문서는 Gemma 4 VL 26B에 추론을 표기하지 않습니다.
- user_provided. 사용자마다 UI에서 자기 BroadNet 키를 입력하게 하려면
apiKey: 'user_provided'로 설정하세요. LibreChat은 각 사용자의 키를 암호화해 저장하고, 사용자가 엔드포인트를 처음 고를 때 키를 묻습니다. - 고유한 이름. 대소문자를 무시하고 이름이 같은 엔드포인트가 또 있으면, 나중 것이 앞의 것을 조용히 대체합니다. 이미 BroadNet이라는 항목이 있다면 둘 중 하나의 이름을 바꾸세요.
- 키를 직접 쓰지 마세요. LibreChat 문서는
librechat.yaml에 키를 직접 입력하는 대신${VAR}참조를 권장합니다. 직접 입력하면 키가 파일에 평문으로 남습니다.
어떤 모델을 고를까
| 용도 | 모델 |
|---|---|
| 기본 채팅, 도구, JSON | GLM 5.3 |
| 이미지와 아랍어 | Qwen3.8 27B |
| 긴 문서, 1M 컨텍스트 | DeepSeek V4.1 Flash |
| 제목과 빠른 답변 | BroadNet Gemma 4 VL 26B |
이 모델들 중 초기 크레딧($5 상당)으로 실행되는 것은 Gemma 4 VL 26B뿐이며, 이 크레딧은 Transcribe 모델 두 개에도 쓸 수 있습니다. 가격은 가격 페이지에서 비교하세요.
문제 해결
- 엔드포인트가 나타나지 않음.
name,baseURL,apiKey,models.default의 철자가 맞는지,endpoints.custom안에 들여쓰기되어 있는지 확인하세요. LibreChat은 불완전한 항목을 로그 한 줄 없이 버립니다. Docker에서는docker-compose.override.yml의 바인드 마운트가 주석 해제되어 있는지 확인하세요. - “Missing API Key for BroadNet”.
BROADNET_API_KEY가.env에 없거나 LibreChat을 재시작하지 않은 것입니다. 엔드포인트는 그대로 보이고, 오류는 메시지를 보낼 때만 나타납니다. - 제공자의 401. 키가 잘못되었거나, 만료되었거나, 종량제 사용 가능 금액이 소진된 것입니다.
- 모델 오류. 각 ID는
broadnet/접두사를 포함해 BroadNet ID와 정확히 일치해야 합니다. GLM 5.3, Qwen3.8 27B, DeepSeek V4.1 Flash는 충전이 필요합니다. - 빈 응답. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B는 먼저 추론하며, 추론도
max_tokens에 포함됩니다. LibreChat 파라미터에서 최대 출력을 작게 잡았다면 늘리세요. 답변이 비어서 오는 이유를 참고하세요. - 사용자가 많을 때 429. 종량제 키 하나는 분당 30 요청, 동시 4 건까지 허용하며, 이 한도를 엔드포인트의 모든 사용자가 나눠 씁니다. 제목 요청도 포함됩니다.
user_provided키를 쓰면 부하가 분산됩니다. 오류와 재시도를 참고하세요. - 플랜 키. 무제한 플랜 세션은 한 번에 요청 하나만 실행하고 공유할 수 없으므로, 여러 사용자가 쓰는 LibreChat에는 맞지 않습니다.
