BroadRouter
시작하기

텍스트, 음성, 비전 중 무엇을 쓸까요? 작업부터 정하세요

BroadNet Inference 팀 · 7분 분량 · 게시

입력과 출력에서 시작하세요. 텍스트를 넣고 텍스트를 받으면 채팅입니다. 사진이나 스캔을 넣고 텍스트를 받으면 이미지를 받는 모델로 하는 이미지 채팅입니다. 녹음된 음성을 넣고 텍스트를 받으면 전사이고, 음성에서 답변까지는 전사 후 채팅입니다. BroadNet은 텍스트 음성 변환(TTS), 이미지 생성, 임베딩을 제공하지 않습니다.

“어떤 모델을 써야 할까?”는 두 번째 질문입니다. 첫 번째 질문은 “무엇이 들어가고, 무엇이 나와야 하는가?”입니다. 송장 사진, 고객의 음성 메시지, 입력된 질문은 각각 다른 종류의 엔드포인트로 가고, 엔드포인트마다 모델, 한도, 실패 양상이 다릅니다. 작업을 먼저 정하면 모델 목록은 두세 개로 줄어듭니다.

이 가이드는 흔한 작업을 입력 유형에 대응시킨 다음, 각각에 대해 BroadNet Inference가 문서화한 내용을 연결합니다. BroadRouter는 BroadNet의 자체 사이트이며, 아래 모델 정보는 2026년 11월 15일에 확인한 BroadNet의 가격 피드와 API 레퍼런스에서 가져왔습니다.

작업에 필요한 입력 유형은 무엇인가요?

작업 입력 출력 엔드포인트 BroadNet 모델
텍스트 답변, 요약, 분류, 번역 텍스트 텍스트 채팅 완성 채팅 모델 4개 모두
자체 함수나 도구 호출 텍스트 도구 호출 채팅 완성 GLM 5.3, Qwen3.8 27B(문서화됨)
사진, 스캔, 스크린샷, 양식 읽기 이미지 + 텍스트 텍스트 또는 JSON 이미지를 포함한 채팅 완성 DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B
녹음이나 음성 메시지를 텍스트로 변환 오디오 파일 텍스트 오디오 전사 Transcribe Arabic, Transcribe(14개 언어)
통화 요약이나 음성 메시지 답변 오디오 파일 텍스트 전사 후 채팅 각각 하나씩
답변을 소리 내어 읽기 텍스트 오디오 텍스트 음성 변환 제공하지 않음
실시간 음성 대화 오디오 스트림 오디오 실시간 음성 제공하지 않음
이미지 만들기 텍스트 이미지 이미지 생성 제공하지 않음
문서 시맨틱 검색 텍스트 벡터 임베딩 제공하지 않음

이 표에서 “비전”은 이미지 이해, 즉 보낸 이미지를 모델이 읽는 것을 뜻합니다. 이미지 생성을 뜻하지 않습니다. 차이는 비전 언어 모델 용어집 항목에서 설명합니다.

채팅과 전사는 무엇이 다른가요?

요청 형식, 과금 단위, 모델이 모두 다른 별개의 엔드포인트입니다.

채팅(POST /v1/chat/completions)은 메시지 목록을 JSON으로 받아 텍스트를 반환합니다. 입력과 출력을 따로 토큰당 과금하며, 모델마다 프롬프트와 답변을 함께 담는 컨텍스트 윈도가 있습니다. BroadNet에서는 채팅 모델 4개 중 3개가 답변 전에 추론하며, 이 추론은 max_tokens에 포함되므로 여유를 두세요(추론 토큰과 빈 응답).

전사(POST /v1/audio/transcriptions)는 오디오 파일을 multipart 업로드로 받아 전사본을 반환합니다. 오디오 분당 과금됩니다. BroadNet 문서는 파일당 26,214,400바이트까지의 WAV 또는 MP3를 명시하고, 그렇지 않으면 아랍어가 라틴 문자로 음역되어 돌아올 수 있으므로 language를 항상 보내라고 안내합니다.

모델 언어 가격
BroadNet Transcribe Arabic 아랍어: BroadNet에 따르면 걸프, 이집트, 레반트, 마그레브 방언과 현대 표준 아랍어 분당 $0.0042 요금(시간당 약 $0.25 금액)
BroadNet Transcribe 영어, 스페인어, 프랑스어, 중국어(표준어), 아랍어를 포함한 14개 언어 분당 $0.002 요금(시간당 약 $0.12 금액)

BroadNet의 채팅 모델은 오디오를 받지 않고, 전사 모델은 질문에 답하지 않습니다. 텍스트로 답하는 음성 비서는 전사와 채팅, 두 번의 호출입니다. 녹음으로 아랍어 회의록 만들기가 바로 그 체인을 만듭니다.

어떤 모델이 이미지를 받나요?

피드 항목의 modalities에 image가 있는 모델입니다. 2026년 11월 15일 기준:

모델 입력 컨텍스트 100만 토큰당 입력 / 출력 이용 조건
DeepSeek V4.1 Flash 텍스트, 이미지 1,048,576 $0.175 / $0.52 충전 필요
Qwen3.8 27B 텍스트, 이미지 262,144 $0.175 / $2.17 충전 필요
Gemma 4 VL 26B 텍스트, 이미지 32,768 $0.10 / $0.22 $5 상당의 초기 크레딧
GLM 5.3 텍스트 전용 1,048,576 $0.78 / $3.46 충전 필요

이미지는 정확한 MIME 유형과 함께 메시지 콘텐츠 안에 data: URL로 보내세요. BroadNet 문서는 비전을 “only where the model row explicitly says images or vision”(번역: 모델 행에 이미지나 비전이 명시된 경우에만) 제공한다고 밝힙니다. 문서에 허용 이미지 형식 목록은 없으므로, 받을 계획인 형식은 하나하나 시험해 보세요. 종량제 키에서 이미지는 입력 토큰으로 과금되며, 이미지가 클수록 더 많이 씁니다. 보내기 전에 크기를 줄이고 이미지 토큰 계산기로 추정하세요. 문서 추출 전 과정은 비전 LLM으로 문서에서 데이터 추출하기에 있습니다.

코드에서 입력마다 어떻게 라우팅하나요?

이 함수는 파일 유형으로 엔드포인트를 고르고, 보내기 전에 문서화된 한도를 확인하며, 이미지를 받는 모델 목록을 하드코딩하지 않고 실시간 피드에서 읽습니다. base URL만 바꾸면 BroadNet에서 작동하는 OpenAI Python SDK를 씁니다(설정 가이드).

import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI

client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
                api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"}       # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400                                         # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"}        # your allow-list; test each one

def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
        stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
    kind = mimetypes.guess_type(path)[0] if path else None
    if kind is None:                                           # text only
        r = client.chat.completions.create(model=chat_model, max_tokens=1500,
                                           messages=[{"role": "user", "content": task}])
        return r.choices[0].message.content
    if kind in AUDIO_TYPES or kind.startswith("audio/"):
        if kind not in AUDIO_TYPES:
            raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
        if Path(path).stat().st_size > AUDIO_MAX:
            raise ValueError("over 26,214,400 bytes: split the audio before sending")
        with open(path, "rb") as f:                            # step 1: speech to text
            text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
        return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
    if kind in IMAGE_TYPES:
        if chat_model not in VISION:
            raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
        data = base64.b64encode(Path(path).read_bytes()).decode()
        r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
            "content": [{"type": "text", "text": task},
                        {"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
        return r.choices[0].message.content
    raise ValueError(f"unsupported input type {kind}")

BROADNET_BASE_URL을 로컬 목(mock) 서버로 지정하고(실제 API 호출 없음) 실시간 가격 피드로 테스트했습니다. 텍스트, WAV 파일, 후속 작업이 있는 WAV 파일, PNG가 각각 올바른 목 엔드포인트에 도달했습니다. PNG를 chat_model="broadnet/glm-5.3"로 보내자 요청 전에 거부되었고, 피드에서 가져온 이미지 지원 ID 세 개가 표시되었습니다. .ogg 파일은 변환용 ffmpeg 명령과 함께 거부되었습니다. 그 단계는 WhatsApp 음성 메시지 전사하기에서 다룹니다. 크기 상한을 넘는 녹음은 나눠야 하며, 오디오 분할기가 ffmpeg 명령을 만들어 줍니다.

문서가 이미 텍스트라면 어떻게 하나요?

그렇다면 사진을 보내지 마세요. 회계 시스템이나 워드 프로세서에서 내보낸 PDF에는 보통 텍스트 레이어가 있습니다. PDF 라이브러리로 추출해서 텍스트를 채팅 모델에 보내세요. 종량제 키에서는 이미지보다 저렴하고, 잘못 읽을 일이 없으며, GLM 5.3에서도 작동합니다. 비전은 추출할 텍스트 레이어가 없는 스캔, 휴대폰 사진, 손글씨, 도장, 스크린샷에 쓰세요.

문서 파이프라인에서 유용한 규칙은 이렇습니다. 텍스트 추출을 먼저 시도하고, 빈 페이지나 깨진 문자가 아닌 진짜 텍스트가 나왔는지 확인한 다음, 그렇지 않을 때만 이미지로 넘어가세요. 아랍어 PDF는 추출된 텍스트를 믿기 전에 일부를 직접 읽어 보세요. PDF를 만든 방식에 따라 추출 결과의 아랍어 글자 순서가 틀리거나 연결되지 않은 표시형(presentation form)으로 나올 수 있습니다. 이미지가 더 나은 원천인 경우는 비전 LLM을 이용한 아랍어 OCR에서 다룹니다.

비용은 어떻게 비교되나요?

입력 유형마다 과금 단위가 다르므로, 요청당이 아니라 작업당으로 비교하세요.

  • 텍스트는 입력 토큰과 출력 토큰당 과금됩니다. 같은 내용이라도 아랍어는 영어보다 토큰이 많이 필요한 경우가 많으며, 아랍어 토큰 카운터로 측정할 수 있습니다.
  • 이미지는 종량제에서 모델의 입력 가격에 따른 입력 토큰이므로, 큰 사진이 텍스트 한 페이지보다 비쌀 수 있습니다. DeepSeek 세션 플랜에서는 이미지도 정액 요금에 포함됩니다.
  • 오디오는 무슨 말을 하든 오디오 분당 과금됩니다. BroadNet에서 30초짜리 아랍어 음성 메시지 10,000개는 아랍어 모델로 약 $21.00 금액입니다. 다른 사용량은 음성 인식 비용 계산기로 계산하세요.

체인은 각 부분의 비용을 더합니다. 채팅 모델이 답하는 음성 메시지는 전사 시간(분)에 전사본과 답변의 채팅 토큰을 더한 비용입니다. 채팅 쪽은 LLM API 비용 계산기로 계산하세요.

제공하지 않는 기능은 무엇이고, 대신 어떻게 해야 하나요?

BroadNet의 API 레퍼런스는 추론 엔드포인트 두 개, 채팅 완성과 오디오 전사를 문서화합니다. 따라서 다음은 없습니다.

  • 텍스트 음성 변환. /v1/audio/speech가 없습니다. 제품이 음성으로 답해야 한다면 BroadNet의 전사와 채팅을 별도의 TTS 서비스와 함께 쓰세요.
  • 실시간 음성. 전사는 실시간 오디오 스트림이 아니라 업로드된 파일을 받습니다. 통화 중에 응답해야 하는 전화 상담 에이전트라면 다른 곳의 실시간 음성 스택이 필요합니다. 파일 기반 대안은 전사를 위한 브라우저 오디오 녹음에서 보여 줍니다.
  • 이미지 생성. 여기서 비전은 이미지를 읽는 것이지, 만드는 것이 아닙니다.
  • 임베딩. /v1/embeddings가 없습니다. 검색(retrieval)에는 다른 제공업체나 자체 호스팅 임베딩 모델이 필요하며, 임베딩 비용 계산기로 가격을 비교할 수 있습니다.

BroadNet의 연구 카탈로그에는 텍스트 음성 변환, 이미지 생성, 임베딩 모델이 실제로 올라 있으며, 연구실에서 벤치마크한 것으로 표시되어 있습니다. 이는 BroadNet이 시험한 것을 기록한 것이지 API에서 판매하는 것이 아닙니다. 차이는 모델 카탈로그 읽는 법에서 설명합니다.

입력마다 별도의 평가 세트가 왜 필요한가요?

입력 유형마다 실패하는 방식이 다르고, 전체를 평균 내면 실패가 가려지기 때문입니다.

  • 텍스트: 실제 사용자 메시지로 점수를 매기고, 가능하면 코드 검사를 쓰세요. 방법은 모델 전환 전 LLM 평가하기에 있습니다.
  • 이미지: 실제 품질의 실제 사진을 쓰세요. 비스듬히 찍은 휴대폰 사진, 바랜 영수증, 글자 위에 찍힌 도장 같은 것입니다. 필드마다 따로 점수를 매기세요. 깨끗하게 렌더링한 PDF는 사용자가 보낼 사진보다 훨씬 높은 점수가 나옵니다.
  • 음성: 자체 녹음으로 방언, 화자, 회선 품질별로 나눠 단어 오류율(WER)을 측정하고, 중요한 단어(이름, 숫자, 금액)는 따로 확인하세요. 아랍어 ASR WER 설명을 참고하세요.
  • 체인: 음성이 채팅 모델로 이어진다면 두 단계와 최종 결과 모두 점수를 매기세요. 잘못 들은 숫자는 자신 있게 틀린 답이 되며, 얼마나 자주 그런지는 엔드투엔드 테스트로만 알 수 있습니다.

세트는 분리해서 버전을 관리하고, 모델이나 프롬프트를 바꿀 때마다 해당 세트를 다시 실행하세요.

BroadNet Inference의 역할

BroadNet Inference는 키 하나와 base URL 하나로 작업 표의 처음 다섯 행을 다룹니다. 텍스트 채팅, GLM 5.3과 Qwen3.8 27B의 도구 호출, 모델 세 개의 이미지 이해, 아랍어 또는 다국어 전사입니다. Gemma 4 VL 26B와 두 전사 모델은 $5 상당의 초기 크레딧으로 쓸 수 있고, DeepSeek, GLM, Qwen은 충전이 필요합니다. 추론 콘텐츠는 보관되지 않으며, 필요한 계정, 결제, 보안 메타데이터는 BroadNet의 개인정보 정책에 설명된 대로 보관됩니다. 음성 출력, 이미지 생성, 실시간 음성, 임베딩에는 다른 서비스를 쓰세요. 위 모든 항목의 가격은 가격 페이지에 있습니다.

자주 묻는 질문

이미지를 처리하려면 어떤 AI 모델을 써야 하나요?

사용하는 API에서 이미지 입력을 받는 모델입니다. BroadNet Inference의 가격 피드에 따르면 DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B이며, GLM 5.3은 텍스트만 받습니다. 이미지는 채팅 메시지 안에 data URL로 보내세요.

채팅 모델로 오디오를 전사할 수 있나요?

BroadNet Inference에서는 안 됩니다. 오디오는 전사 모델과 함께 전사 엔드포인트인 /v1/audio/transcriptions로 보냅니다. 그 뒤에 요약이나 답변이 필요하다면 두 번째 단계로 전사본을 채팅 모델에 보내세요.

BroadNet Inference는 텍스트 음성 변환이나 이미지 생성을 제공하나요?

아니요. API 레퍼런스는 채팅 완성과 오디오 전사만 문서화합니다. 텍스트 음성 변환과 이미지 생성 모델은 BroadNet 연구 카탈로그에 벤치마크 완료로 나오지만, 이는 제공된다는 뜻이 아닙니다.

BroadNet은 어떤 오디오 형식을 받나요?

WAV(audio/wav) 또는 MP3(audio/mpeg)를 파일당 26,214,400바이트까지 받습니다. WhatsApp .ogg 음성 메시지 같은 다른 형식은 먼저 ffmpeg로 변환하고, language 파라미터는 항상 보내세요.

이미지는 어떻게 과금되나요?

종량제 키에서는 BroadNet이 이미지를 모델의 입력 가격에 따른 입력 토큰으로 과금하며, 이미지가 클수록 토큰을 더 씁니다. DeepSeek 세션 플랜에서는 이미지도 정액 요금에 포함됩니다.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기