BroadRouter

비전 모델로 아랍어 인보이스와 영수증 읽기

업데이트

이미지를 base64 데이터 URL로 메시지 content에 넣어 broadnet/qwen3.8-27b나 broadnet/gemma-4-26b-a4b 같은 비전 모델에 보내고, 필요한 필드를 JSON으로 달라고 요청하세요. MIME 유형은 정확하게 지정해야 합니다. 종량제에서는 이미지가 입력 토큰으로 계산되며, 이미지가 클수록 토큰을 더 씁니다.

BroadNet Inference에서 이미지를 받는 채팅 모델은 DeepSeek V4.1 Flash, Qwen3.8 27B, BroadNet Gemma 4 VL 26B 세 가지입니다. GLM 5.3은 텍스트 전용입니다. 아랍어 문서라면 BroadNet이 아랍어로 테스트한 모델은 Qwen3.8 27B입니다. 테스트 결과는 유창한 작문, 걸프 및 이집트 방언 이해, 정확한 아랍어-영어 번역이었습니다. Gemma 4 VL 26B는 BroadNet에서 셋 중 가장 저렴하며 무료 크레딧으로 쓸 수 있습니다.

인보이스 한 장에 대해 질문하기

import base64, os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
invoice = base64.b64encode(open("invoice.jpg", "rb").read()).decode()

response = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": [
        {"type": "text", "text": "ما هو المبلغ الإجمالي في هذه الفاتورة؟"},
        {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64," + invoice}},
    ]}],
)
print(response.choices[0].message.content)

이 질문은 아랍어로 “이 인보이스의 합계 금액은 얼마입니까?”라는 뜻입니다. PNG 파일이라면 데이터 URL에 image/png를 쓰세요. MIME 유형이 파일과 일치해야 합니다. 파일 이름에서 MIME 유형을 정하려면 다음과 같이 합니다.

import mimetypes
mime = mimetypes.guess_type("invoice.png")[0]   # "image/png"
url = f"data:{mime};base64," + base64.b64encode(open("invoice.png", "rb").read()).decode()

구조화된 필드로 받기

JSON으로 답하라고 요청하고, 원하는 키를 정확히 지정하세요.

prompt = (
    "Read this invoice. Reply with JSON only, keys: vendor, date (YYYY-MM-DD), "
    "currency, total (number), vat (number or null). Keep the vendor name in Arabic if it is written in Arabic."
)
response = client.chat.completions.create(
    model="broadnet/qwen3.8-27b",
    max_tokens=2000,  # Qwen3.8 27B reasons first
    messages=[{"role": "user", "content": [
        {"type": "text", "text": prompt},
        {"type": "image_url", "image_url": {"url": "data:image/jpeg;base64," + invoice}},
    ]}],
)

Qwen3.8 27B는 답하기 전에 추론하므로 여유를 주세요. 추론 모델이 빈 답변을 반환하는 이유를 참고하세요. BroadNet 문서는 Qwen3.8 27B에 구조화된 출력을 표기합니다. JSON 스키마가 일반적으로 어떻게 작동하는지는 구조화된 출력을 참고하세요. 응답은 json.loads로 파싱하고, 저장하기 전에 필드를 검사하세요.

비용

종량제에서는 이미지가 해당 모델의 입력 가격으로 입력 토큰으로 과금되므로, 아주 큰 사진은 먼저 크기를 줄이세요. 특정 크기의 이미지가 몇 토큰인지는 이미지 토큰 계산기에서 확인할 수 있습니다. DeepSeek V4.1 Flash 무제한 플랜에서는 이미지도 무제한 사용에 포함됩니다.

비전 모델 가격을 비교하거나, 아랍어 OCR API 비교에서 비전 모델을 Google, Azure, Textract, Mistral OCR과 비교해 보세요.

문제 해결

  • Qwen3.8 27B나 DeepSeek V4.1 Flash의 빈 답변. 추론이 max_tokens를 다 썼습니다. 값을 늘리거나 reasoning_effort를 low로 설정하세요.
  • 이미지에 대한 400 또는 422. 데이터 URL이 data:image/jpeg;base64, 또는 data:image/png;base64,로 시작하는지, MIME 유형이 파일과 일치하는지 확인하세요.
  • 403 또는 모델 관련 오류. GLM 5.3은 이미지를 받지 않으며, Qwen3.8 27B와 DeepSeek V4.1 Flash는 충전이 필요합니다. 무료 크레딧으로는 BroadNet Gemma 4 VL 26B를 쓰세요.
  • 요청이 너무 크거나 컨텍스트 오류. 큰 사진은 토큰을 많이 쓰며, Gemma 4 VL 26B는 세 모델 중 컨텍스트 윈도가 가장 작습니다(pricing.json에 표기). 적당한 너비로 줄이거나 합계 부분만 잘라 내세요.
  • 합계가 틀리거나 숫자가 뒤바뀜. 영수증 한 장에 아랍-인도 숫자(٠١٢٣)와 라틴 숫자가 함께 나올 수 있습니다. 숫자를 라틴 숫자로 반환하라고 요청하고, 코드에서 합계를 품목 금액과 대조하세요.
  • 잘못된 JSON. “JSON only”(번역: JSON만)로 답하라고 요청하고, 파싱 전에 코드 펜스를 제거한 뒤, 파싱에 실패하면 한 번 다시 시도하세요.
An Arabic and English invoice beside a phone showing the JSON {"total":125.00,"currency":"AED"}, with the text "From documents to structured data."
Illustrative example; the figures are not real output.

자주 묻는 질문

BroadNet에서 이미지를 읽을 수 있는 모델은 무엇인가요?

DeepSeek V4.1 Flash, Qwen3.8 27B, BroadNet Gemma 4 VL 26B가 chat completions로 이미지를 받습니다. GLM 5.3은 텍스트 전용이며, 전사 모델은 오디오를 받습니다.

로컬 이미지 파일을 비전 LLM API로 보내려면 어떻게 하나요?

파일을 읽어 base64로 인코딩한 뒤, data:image/jpeg;base64, 뒤에 인코딩한 바이트를 붙인 데이터 URL로 image_url 콘텐츠 파트에 넣으세요. URL의 MIME 유형은 파일과 일치해야 합니다.

무료 크레딧으로 인보이스 데이터를 추출할 수 있나요?

네. 무료 초기 크레딧으로 쓸 수 있는 BroadNet Gemma 4 VL 26B를 쓰면 됩니다. Qwen3.8 27B와 DeepSeek V4.1 Flash는 충전 후 쓸 수 있습니다.

PDF 인보이스를 보낼 수 있나요?

BroadNet 문서는 PDF 파일이 아니라 데이터 URL로 보내는 이미지를 설명합니다. 먼저 pdftoppm 등으로 PDF의 각 페이지를 JPEG나 PNG로 변환한 뒤 이미지로 보내세요.

Markdown으로 읽기ChatGPT에 질문하기Claude에 질문하기Perplexity에 질문하기