BroadRouter

Langflow에 BroadNet Inference 연결하기

업데이트

Langflow에서 OpenAI 번들의 OpenAI 컴포넌트를 추가하세요. Model Name에 broadnet/glm-5.3 같은 BroadNet ID를 입력하고 BroadNet 키를 붙여 넣은 뒤, 고급 설정에서 OpenAI API Base를 https://inference.broadnet.ai/v1로 설정하면 됩니다. OpenAI Compatible 모델 제공자는 쓰지 마세요. 이 제공자는 /v1/models에서 모델 목록을 가져오는데, BroadNet의 목록에는 전사 모델만 있습니다.

Langflow는 에이전트와 RAG 플로우를 만드는 오픈 소스 비주얼 빌더입니다. Langflow의 OpenAI 컴포넌트에는 OpenAI API Base 필드가 있는데, 컴포넌트 설명에 따르면 이 필드로 “use other APIs”(번역: 다른 API를 사용)할 수 있습니다. BroadNet Inference는 https://inference.broadnet.ai/v1 주소에서 chat completions를 제공하므로, BroadNet 모델 ID를 직접 입력하면 이 컴포넌트로 쓸 수 있습니다. BroadRouter는 BroadNet이 운영하는 사이트입니다. 아래 내용은 Langflow 1.13.x 문서와 v1.13.2의 컴포넌트 소스를 따릅니다.

설정

  1. 컴포넌트를 추가합니다. 플로우에서 컴포넌트 패널을 열고 OpenAI 번들의 OpenAI를 추가하세요. Langflow 1.13.2에서는 이 번들이 메인 패키지와 함께 설치됩니다.

  2. Model Name. 필드를 클릭하고 broadnet/glm-5.3 값을 입력하세요. 임의의 값을 받으므로 목록에 있는 OpenAI 모델로 제한되지 않습니다.

  3. OpenAI API Key. BroadNet 키를 붙여 넣거나, 키를 담은 전역 변수를 고르세요.

  4. 고급 설정. 컴포넌트의 컨트롤을 열고 다음과 같이 설정하세요.

    필드 값
    OpenAI API Base https://inference.broadnet.ai/v1
    Max Tokens 4000
  5. 실행합니다. Chat Input과 Chat Output을 연결하고 Playground를 열어 메시지를 보내세요. 답이 오면 설정이 맞는 것입니다.

BroadNet 연결을 막을 수 있는 Langflow 검사 두 가지

Langflow 1.13은 SSRF 보호가 기본으로 켜져 있습니다. 중요한 규칙은 두 가지입니다.

  • 서버 환경에서 온 키. API 키가 서버 환경에서 온 경우(예: 환경 변수에서 불러온 전역 변수), 호스트가 허용 목록에 없으면 Langflow는 기본값이 아닌 엔드포인트로 키를 보내지 않습니다. 운영자가 다음을 설정하세요.

    export LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai

    컴포넌트에 직접 입력한 키에는 영향이 없습니다.

  • 사설 주소. 루프백 주소와 사설 IP는 LANGFLOW_SSRF_ALLOWED_HOSTS에 넣지 않으면 차단됩니다. BroadNet은 공개 HTTPS 호스트이므로, 로컬 프록시를 거쳐 연결할 때만 해당됩니다.

OpenAI Compatible 제공자를 쓰지 않는 이유

Langflow 1.13에는 Settings → Model Providers 아래에 OpenAI Compatible 모델 제공자도 있습니다. 문서에 따르면 이 제공자는 엔드포인트의 /v1/models 경로로 연결을 검증하고, 거기서 찾은 모델을 선택지로 보여 줍니다. 2026년 11월 16일에 확인했을 때 BroadNet의 /v1/models에는 broadnet/cohere-transcribe-arabic와 broadnet/cohere-transcribe만 나열되어 있었으므로 여기서는 채팅 모델을 고를 수 없습니다. OpenAI 컴포넌트에서 모델 이름을 직접 입력하면 이 문제를 피할 수 있습니다.

어떤 모델을 고를까

플로우 모델
도구를 쓰는 Agent 컴포넌트 broadnet/glm-5.3
이미지나 아랍어 텍스트를 다루며 도구를 쓰는 플로우 broadnet/qwen3.8-27b
긴 문서 플로우, 정액 플랜 broadnet/deepseek-v4.1-flash
초기 크레딧으로 Langflow 체험 broadnet/gemma-4-26b-a4b (32,768 토큰 컨텍스트)

BroadNet 문서는 도구와 구조화된 출력을 GLM 5.3과 Qwen3.8 27B에만 표기합니다. 컴포넌트의 JSON Mode는 response_format: {"type": "json_object"}를 보내므로 이 두 모델과 함께 쓰세요. 모든 모델의 가격을 확인하세요.

테스트 방법

Langflow UI를 직접 실행하지는 않았습니다. 2026-11-15에 lfx 1.13.2와 lfx-openai 번들을 설치했습니다. 이 번들의 OpenAI 컴포넌트 파일은 v1.13.2 소스와 같습니다. 그런 다음 BroadNet의 chat completions 형식을 흉내 내는 로컬 모의 서버를 대상으로 Python에서 컴포넌트를 만들었습니다. 키를 직접 입력하고 로컬 모의 서버용으로 LANGFLOW_SSRF_ALLOWED_HOSTS를 설정하자, 요청은 /v1/chat/completions로 갔고 모델 ID broadnet/glm-5.3 값은 바뀌지 않았으며 Bearer 키, temperature: 0.1, seed가 포함되었습니다. Max Tokens 값은 max_completion_tokens로 전송되었는데, BroadNet API 레퍼런스에는 max_tokens로 설명되어 있습니다. 서버 환경에서 복사한 키는 LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS도 설정할 때까지 거부되었습니다. BroadNet 키가 없었기 때문에 실제 모델 출력은 테스트하지 않았습니다.

문제 해결

  • “Refusing to send a server-provisioned API credential”. LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS에 inference.broadnet.ai를 추가하거나, 키를 컴포넌트에 직접 입력하세요.
  • 401. 키가 잘못되었거나, 만료되었거나, 사용 가능 금액이 소진된 것입니다.
  • 404. OpenAI API Base는 /v1로 끝나야 하고, Model Name은 BroadNet ID와 정확히 일치해야 합니다. 유료 모델은 충전이 필요하며, 초기 크레딧($5 상당)으로는 broadnet/gemma-4-26b-a4b 모델과 Transcribe 모델 두 개만 쓸 수 있습니다.
  • 빈 응답. DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B에서는 추론도 출력 한도에 포함됩니다. Max Tokens를 늘리세요. 답변이 비어서 오는 이유를 참고하세요.
  • 429. 종량제 키는 분당 30 요청, 동시 처리 4 건까지 허용합니다. 오류와 재시도를 참고하세요.

자주 묻는 질문

OpenAI Compatible 제공자에 GLM 5.3이나 Qwen이 보이지 않는 이유는 무엇인가요?

Langflow 문서에 따르면 이 제공자는 엔드포인트의 /v1/models 경로에서 모델을 찾습니다. 2026년 11월 16일에 확인했을 때 BroadNet의 /v1/models에는 전사 모델 두 개만 나열되어 있었으므로 채팅 모델은 나타나지 않습니다. 대신 OpenAI 컴포넌트에 모델 이름을 직접 입력해 쓰세요.

OpenAI 컴포넌트 목록에 없는 모델을 직접 입력할 수 있나요?

네. Model Name은 콤보박스이며, Langflow의 입력 정의에서 콤보박스는 사용자가 임의의 값을 입력할 수 있다는 뜻입니다. broadnet/glm-5.3처럼 BroadNet ID 전체를 입력하세요.

Langflow가 BroadNet으로 키를 보내지 않으려는 이유는 무엇인가요?

Langflow 1.13은 운영자가 호스트를 허용하지 않는 한, 서버 환경에서 온 API 키를 커스텀 엔드포인트로 보내지 않습니다. LANGFLOW_PROVIDER_CREDENTIAL_ALLOWED_HOSTS=inference.broadnet.ai를 설정하거나 키를 컴포넌트에 직접 붙여 넣으세요.

Langflow OpenAI 컴포넌트는 Responses API를 쓰나요?

아니요. 이 컴포넌트는 LangChain의 ChatOpenAI를 만들며, 일반 요청에는 chat completions를 호출합니다. 저희 테스트에서도 /v1/chat/completions를 호출했습니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기