Pangalawang tanong ang “Aling model ang gagamitin natin?”. Ang una ay “ano ang papasok, at ano ang kailangang lumabas?” Magkakaibang uri ng endpoint ang pupuntahan ng litrato ng invoice, voice note mula sa customer at tinype na tanong, at may sariling mga model, limit at paraan ng pagpalya ang bawat endpoint. Piliin muna ang task at liliit sa dalawa o tatlo ang listahan ng model.
Itinutugma ng gabay na ito ang mga karaniwang task sa mga uri ng input, saka sa kung ano ang dinodokumento ng BroadNet Inference para sa bawat isa. Sariling site ng BroadNet ang BroadRouter; galing sa pricing feed at API reference ng BroadNet ang mga detalye ng model sa ibaba, na sinuri noong Nobyembre 15, 2026.
Anong uri ng input ang kailangan ng task mo?
| Ang task mo | Input | Output | Endpoint | Mga model ng BroadNet |
|---|---|---|---|---|
| Sumagot, magbuod, mag-classify o magsalin ng text | Text | Text | Chat completions | Alinman sa apat na chat model |
| Tawagin ang sarili mong function o tools | Text | Tool call | Chat completions | GLM 5.3, Qwen3.8 27B (dokumentado) |
| Basahin ang litrato, scan, screenshot o form | Image + text | Text o JSON | Chat completions na may image | DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B |
| Gawing text ang recording o voice note | Audio file | Text | Audio transcriptions | Transcribe Arabic, Transcribe (14 na wika) |
| Ibuod ang tawag o sagutin ang voice note | Audio file | Text | Transcription, saka chat | Tig-isa |
| Bigkasin nang malakas ang sagot | Text | Audio | Text-to-speech | Wala |
| Makipag-usap nang live gamit ang boses | Audio stream | Audio | Realtime voice | Wala |
| Gumawa ng image | Text | Image | Image generation | Wala |
| Semantic search sa mga dokumento | Text | Vector | Embeddings | Wala |
Ang “vision” sa table na ito ay pag-unawa sa image: binabasa ng model ang image na ipinadala mo. Hindi ito nangangahulugang paggawa ng image. Ipinapaliwanag ng entry sa glossary na vision language model ang pagkakaiba.
Ano ang pagkakaiba ng chat at transcription?
Magkaibang endpoint ang mga ito, na magkaiba ang hugis ng request, unit ng billing at mga model.
Chat (POST /v1/chat/completions): tumatanggap ng listahan ng mga message bilang JSON at nagbabalik ng text. Sinisingil kada token, hiwalay ang input at output, at may context window ang bawat model na naglalaman ng prompt at sagot nang magkasama. Sa BroadNet, tatlo sa apat na chat model ang nagre-reason bago sumagot, at binibilang ang reasoning na iyon sa max_tokens, kaya mag-iwan ng puwang (reasoning token at walang lamang sagot).
Transcription (POST /v1/audio/transcriptions): tumatanggap ng audio file bilang multipart upload at nagbabalik ng transcript. Sinisingil kada minuto ng audio. Tinutukoy ng docs ng BroadNet ang WAV o MP3 hanggang 26,214,400 byte kada file, at sinasabing laging ipadala ang language, dahil kung hindi, puwedeng bumalik ang Arabic na naka-transliterate sa Latin na letra.
| Model | Mga wika | Presyo |
|---|---|---|
| BroadNet Transcribe Arabic | Arabic: Gulf, Egyptian, Levantine, Maghrebi at Modern Standard, ayon sa BroadNet | $0.0042 kada minuto (mga $0.25 kada oras) |
| BroadNet Transcribe | 14, kasama ang English, Spanish, French, Mandarin at Arabic | $0.002 kada minuto (mga $0.12 kada oras) |
Hindi tumatanggap ng audio ang chat model sa BroadNet, at hindi sumasagot ng tanong ang transcription model. Dalawang call ang voice assistant na sumasagot sa text: transcribe, saka chat. Iyan mismo ang chain na binubuo ng Arabic meeting minutes mula sa mga recording.
Aling mga model ang tumatanggap ng image?
Ang mga may image sa modalities ng entry nila sa feed. Noong Nobyembre 15, 2026:
| Model | Mga input | Context | Input / output kada 1M token | Access |
|---|---|---|---|---|
| DeepSeek V4.1 Flash | Text, image | 1,048,576 | $0.175 / $0.52 | Kailangan ng top-up |
| Qwen3.8 27B | Text, image | 262,144 | $0.175 / $2.17 | Kailangan ng top-up |
| Gemma 4 VL 26B | Text, image | 32,768 | $0.10 / $0.22 | $5 na panimulang credit |
| GLM 5.3 | Text lang | 1,048,576 | $0.78 / $3.46 | Kailangan ng top-up |
Ipadala ang image bilang data: URL sa loob ng content ng message, na may tamang MIME type. Sinasabi ng docs ng BroadNet na iniaalok ang vision “only where the model row explicitly says images or vision” (salin: kung saan lang tahasang sinasabi ng row ng model na images o vision). Hindi inililista ng docs ang mga tinatanggap na format ng image, kaya subukan ang bawat format na balak mong tanggapin. Sa pay-as-you-go na key, sinisingil ang image bilang input token, at mas marami ang ginagamit ng mas malaking image; i-resize bago ipadala at tantiyahin gamit ang image token calculator. Nasa pag-extract ng data mula sa mga dokumento gamit ang vision LLM ang document extraction mula umpisa hanggang dulo.
Paano i-route ang bawat input sa code?
Pinipili ng function na ito ang endpoint batay sa uri ng file, sinusuri ang mga dokumentadong limit bago magpadala, at binabasa ang listahan ng mga model na tumatanggap ng image mula sa live na feed sa halip na i-hard-code ito. Gumagamit ito ng OpenAI Python SDK, na gumagana sa BroadNet pagkatapos palitan ang base URL (setup guide).
import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI
client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"} # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400 # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"} # your allow-list; test each one
def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
kind = mimetypes.guess_type(path)[0] if path else None
if kind is None: # text only
r = client.chat.completions.create(model=chat_model, max_tokens=1500,
messages=[{"role": "user", "content": task}])
return r.choices[0].message.content
if kind in AUDIO_TYPES or kind.startswith("audio/"):
if kind not in AUDIO_TYPES:
raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
if Path(path).stat().st_size > AUDIO_MAX:
raise ValueError("over 26,214,400 bytes: split the audio before sending")
with open(path, "rb") as f: # step 1: speech to text
text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
if kind in IMAGE_TYPES:
if chat_model not in VISION:
raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
data = base64.b64encode(Path(path).read_bytes()).decode()
r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
"content": [{"type": "text", "text": task},
{"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
return r.choices[0].message.content
raise ValueError(f"unsupported input type {kind}")
Sinubukan namin ito na nakaturo ang BROADNET_BASE_URL sa isang lokal na mock server (walang live na API call) at gamit ang live na pricing feed. Umabot sa tamang mock endpoint ang text, isang WAV file, isang WAV file na may kasunod na task, at isang PNG. Tinanggihan bago pa magkaroon ng anumang request ang pagpapadala ng PNG na may chat_model="broadnet/glm-5.3", at inilista nito ang tatlong ID mula sa feed na tumatanggap ng image. Tinanggihan ang isang .ogg file kasama ang ffmpeg command para i-convert ito; tinatalakay ng pag-transcribe ng mga voice note sa WhatsApp ang step na iyon. Kailangang hatiin ang mga recording na lampas sa size cap; binubuo ng audio splitter ang mga ffmpeg command.
Paano kung text na ang dokumento?
Kung gayon, huwag magpadala ng larawan nito. Kadalasang may text layer ang PDF na in-export mula sa accounting system o word processor; i-extract ito gamit ang PDF library at ipadala ang text sa chat model. Mas mura iyon kaysa sa image sa pay-as-you-go na key, iniiwasan ang maling basa, at gumagana rin sa GLM 5.3. Itabi ang vision para sa mga scan, litrato mula sa phone, sulat-kamay, tatak at screenshot, kung saan walang text layer na mae-extract.
Kapaki-pakinabang na patakaran sa document pipeline: subukan muna ang text extraction, tingnan kung totoong text ang ibinalik nito (hindi walang lamang page o gulong mga character), at bumalik lang sa image kapag hindi. Para sa mga Arabic na PDF, basahin muna ang sample ng na-extract na text bago ito pagkatiwalaan: depende sa kung paano ginawa ang PDF, puwedeng magbalik ang extraction ng mga Arabic na letra sa maling pagkakasunod o sa hindi magkakadugtong na presentation form. Tinatalakay ng Arabic OCR gamit ang vision LLM ang mga kaso kung saan mas magandang pinagmulan ang image.
Paano nagkakaiba ang mga gastos?
Sinisingil ang bawat uri ng input sa sarili nitong unit, kaya ikumpara kada task, hindi kada request:
- Text: sinisingil kada input at output token. Madalas na mas maraming token ang kailangan ng Arabic kaysa English para sa parehong content; sinusukat ito ng Arabic token counter.
- Image: sa pay-as-you-go, input token ito sa input price ng model, kaya puwedeng mas mahal ang malaking litrato kaysa sa isang page ng text. Sa DeepSeek session plan, kasama na ang mga image sa flat na presyo.
- Audio: sinisingil kada minuto ng audio, anuman ang sinabi. Sa BroadNet, mga $21.00 ang 10,000 Arabic na voice note na tig-30 segundo gamit ang Arabic model. Kinukuwenta ng speech-to-text cost calculator ang ibang volume.
Pinagsasama ng chain ang mga bahagi nito: ang voice note na sinagot ng chat model ay nagkakahalaga ng mga minuto ng transcription dagdag ang chat token ng transcript at ng sagot. Hinahawakan ng LLM API cost calculator ang bahaging chat.
Ano ang wala, at ano ang dapat gawin sa halip?
Dalawang inference endpoint ang dinodokumento ng API reference ng BroadNet: chat completions at audio transcriptions. Kaya walang:
- Text-to-speech. Walang
/v1/audio/speech. Kung kailangang magsalita pabalik ng produkto mo, ipares ang transcription at chat ng BroadNet sa hiwalay na TTS service. - Live voice. Uploaded na file ang tinatanggap ng transcription, hindi live na audio stream. Para sa phone agent na kailangang sumagot habang nasa gitna ng tawag, kailangan mo ng realtime voice stack sa ibang lugar. Ipinapakita ng pag-record ng audio sa browser para sa transcription ang alternatibong nakabatay sa file.
- Image generation. Nagbabasa ng image ang vision dito; hindi ito gumagawa ng image.
- Embeddings. Walang
/v1/embeddings. Para sa retrieval, kailangan mo ng embedding model mula sa ibang provider o self-hosted; ikinukumpara ng embedding cost calculator ang mga presyo.
Naglilista nga ang research catalogue ng BroadNet ng mga text-to-speech, image-generation at embedding model, na may markang benchmarked sa lab nito. Itinatala nito kung ano ang sinubukan ng BroadNet, hindi kung ano ang ibinebenta ng API nito; ipinapaliwanag ng pagbasa ng model catalogue ang pagkakaiba.
Bakit kailangan ng hiwalay na evaluation set para sa bawat input?
Dahil magkakaiba ang paraan ng pagpalya ng bawat uri ng input, at itinatago ng average ng lahat ang mga pagpalya.
- Text: mag-score sa totoong mga message ng user, na may mga check sa code kung kaya. Nasa pag-evaluate ng LLM bago lumipat ang paraan.
- Image: gumamit ng totoong litrato sa totoong kalidad: mga kuha ng phone na nakatagilid, kupas na resibo, tatak na nakapatong sa text. I-score nang hiwalay ang bawat field. Mas mataas nang husto ang score ng malinis na PDF render kaysa sa mga litratong ipapadala ng mga user mo.
- Speech: sukatin ang word error rate sa sarili mong mga recording, hinati ayon sa dialect, nagsasalita at kalidad ng linya, at hiwalay na suriin ang mga salitang mahalaga (pangalan, numero, halaga). Tingnan ang Arabic ASR WER explained.
- Chain: kapag pumapasok ang pananalita sa chat model, i-score ang dalawang step at ang huling resulta. Nagiging kumpiyansang maling sagot ang maling narinig na numero, at end-to-end na test lang ang makakapagpakita kung gaano ito kadalas.
Paghiwalayin ang mga set, lagyan ng bersyon, at patakbuhin ulit ang may kinalaman tuwing papalitan mo ang model o prompt.
Saan pumapasok ang BroadNet Inference
Sakop ng BroadNet Inference ang unang limang row ng task table gamit ang isang key at isang base URL: text chat, tool calling sa GLM 5.3 at Qwen3.8 27B, pag-unawa sa image sa tatlong model, at Arabic o multilingual na transcription. Tumatakbo sa $5 na panimulang credit ang Gemma 4 VL 26B at ang dalawang transcription model; kailangan ng top-up ang DeepSeek, GLM at Qwen. Hindi itinatago ang inference content; itinatago ang kinakailangang account, billing at security metadata ayon sa privacy statement ng BroadNet. Para sa pagsasalita, image generation, live voice o embeddings, gumamit ng ibang service. Nasa pricing page ang presyo ng lahat ng nasa itaas.
