---
title: "Mga model na tinanggihan ng BroadNet: LLM, speech, OCR"
description: "Inilalathala ng BroadNet ang mga model na sinubukan at tinanggihan nito, kasama ang dahilan: chat model na bumagsak sa credential-safety, at speech, OCR, embedding."
url: https://broadrouter.com/fil/blog/models-broadnet-ruled-out/
lang: fil
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Isinalin mula sa Ingles sa tulong ng AI. [Basahin ang orihinal sa Ingles](https://broadrouter.com/blog/models-broadnet-ruled-out/) (na-update noong 2026-11-16).

# Mga model na sinubukan at tinanggihan ng BroadNet, at bakit

Ng BroadNet Inference team · 4 minutong basa · Nailathala 2026-11-15 · Na-update 2026-11-16

Mga 30 model at method ang minarkahang ruled out ng catalogue ng BroadNet matapos i-test sa lab nito. Karamihan sa mga dahilan ay nasa limang grupo: natalo sa mas malakas na model para sa parehong trabaho, credential-safety gate, lisensyang humaharang sa API serving, quantisation format na natalo sa head-to-head, at paghina sa Arabic. Sariling sukat ng BroadNet ang lahat ng resulta, mula Setyembre 2026.

## Mga pangunahing punto

-   Nilalagyan ng catalogue ng BroadNet ang bawat model ng PROD, SERVED, BENCH, QUANT, FT o RULED OUT, at ibinibigay ang dahilan ng bawat pagtanggi.
-   Hindi pinagamit ng credential-safety battery ng BroadNet sa mga security role ang tatlong chat model: Qwen3.5 35B A3B, pati ang GLM 4.7 Flash at Nemotron 3 Nano 30B A3B, na nananatiling may label na SERVED sa halip na RULED OUT.
-   Na-rule out ang EAGLE3 speculative decoding matapos itong magpabawas ng 69% ng throughput sa 32 sabay-sabay na request.
-   Na-rule out ang LlamaParse bilang incumbent sa document parsing: nawawala ang mga table, at sabi ng BroadNet, 98% mas mura kada 1,000 page ang self-hosting.
-   Para sa ilang embedding model, hindi tumagal ang panalo sa public leaderboard sa totoong Arabic na traffic ng BroadNet.

**Sa page na ito**

1.  Aling mga chat model ang na-rule out ng BroadNet?
2.  Aling mga speech model ang na-rule out?
3.  Aling mga document, embedding at image model ang natalo?
4.  Ano ang matututunan mo sa mga pagtanggi?

Inililista ng [model catalogue](https://www.broadnet.ai/inference/models) ng BroadNet ang bawat model na sinasabi nitong napatakbo, na-benchmark, na-quantise o na-fine-tune nito sa sarili nitong hardware, at minamarkahan ang mga tinanggihan nito kasama ang dahilan. Mga 30 model at method ang may label na RULED OUT. Sinukat sa lab ng BroadNet ang mga numero sa ibaba noong Setyembre 2026; resulta ito ng BroadNet, hindi namin.

Anim na label ang ginagamit ng catalogue: PROD (nagdala ng live traffic), SERVED (sa mga salita ng catalogue, “ran on our fleet” (salin: tumakbo sa aming fleet)), BENCH (na-benchmark), QUANT (BroadNet ang gumawa ng quantisation), FT (fine-tune ng BroadNet) at RULED OUT.

## Aling mga chat model ang na-rule out ng BroadNet?

| Model | Ano ang ginawa ng BroadNet | Bakit na-rule out |
| --- | --- | --- |
| Qwen3.5 35B A3B (AWQ 4-bit) | Pinatakbo bilang speed tier, mga 164 token/s | Bumagsak sa credential-safety battery ng BroadNet para sa mga security role |
| GLM 4.7 Flash (AWQ) | Pinatakbo bilang eksperimento | Label na SERVED, hindi RULED OUT: sabi ng BroadNet, na-rule out ito para sa mga security role dahil sa credential-safety battery nito at hindi itinaas sa production |
| Nemotron 3 Nano 30B A3B (NVFP4) | Pinatakbo gamit ang custom na reasoning parser | Label na SERVED, hindi RULED OUT: sabi ng BroadNet, na-rule out ito para sa mga security role dahil sa credential-safety battery nito at hindi itinaas sa production |
| Qwen3.6 35B A3B | Pinatakbo sa RTX 5090 at GB10 | Natalo sa Gemma 4 26B para sa chatbot slot |
| Gemma 4 E4B (AWQ INT4) | Pinatakbo sa GB10 bilang co-tenant, mga 94 token/s | Natalo sa Gemma 4 26B para sa chatbot slot |
| Gemma 4 26B A4B NVFP4 (tatlong publisher) | Sinuri ang quantisation | Itinigil kapalit ng AWQ matapos ang head-to-head sa mga sm\_120 at sm\_121 GPU |
| EAGLE3 speculative decoding | Sinubukan para sa saturated serving | Nagpabawas ng 69% ng throughput sa 32 sabay-sabay na request; pinanatili ang mga multi-token-prediction drafter |

Mahalaga ang pattern para sa sinumang pumipili ng open model. Tatlo sa mga pagtanggi ay tungkol sa safety, hindi sa kalidad: mga model na sapat ang bilis pero inulit ang mga credential. Iyan ang failure mode na pinakamadalas nakita ng [Safety Map study](https://broadrouter.com/fil/blog/llm-safety-map-39-models/) ng BroadNet sa mga mixture-of-experts model na maliit ang active parameter. Ang model na nanalo sa chatbot slot, ang Gemma 4 26B A4B, ang ibinebenta ng BroadNet bilang [Gemma 4 VL 26B](https://broadrouter.com/fil/models/gemma-4-vl-26b/).

## Aling mga speech model ang na-rule out?

| Model | Bakit na-rule out |
| --- | --- |
| Gemma 4 E2B, Gemma 4 12B (bilang transcriber) | Ang E4B audio variant ang pinanatili |
| Omnilingual ASR 300M, 1B, 3B at mga CTC variant (Meta) | Ang 7B variant ang nakakuha ng slot |
| Voxtral Mini 3B / 4B Realtime (Mistral) | Na-rule out para sa Arabic |
| ArTSTv3 (lahi ng MBZUAI) | Na-rule out para sa Arabic slot; pinanatili ang Cohere Transcribe Arabic |
| FireRedVAD, DeepFilterNet, BNR (mga front-end) | Ginamit ang Silero voice activity detection matapos ang head-to-head |

Iniulat ng BroadNet na ang model na pinanatili nito, ang Cohere Transcribe Arabic 07-2026, ay may 21.1 na word error rate sa MASC dialect speech, laban sa 22.3 ng ElevenLabs Scribe v2 at 31.5 ng Whisper large-v3, sa sarili nitong test. Pinapatakbo nito ang model na iyon bilang [BroadNet Transcribe Arabic](https://broadrouter.com/fil/models/cohere-transcribe-arabic/). Sabi rin ng catalogue, na-benchmark ang Whisper large-v3 bilang fallback.

## Aling mga document, embedding at image model ang natalo?

**OCR at document parsing**

-   **LlamaParse**, ang incumbent na API, ay nakakuha ng 16.6 sa OmniDocBench subset ng BroadNet. Na-rule out ito ng BroadNet dahil “it loses tables, and self-hosting is 98% cheaper per 1,000 pages” (salin: nawawala ang mga table, at 98% mas mura kada 1,000 page ang self-hosting).
-   Sinuri at na-rule out ang **olmOCR-2, HunyuanOCR, GOT-OCR 2.0 at Nanonets OCR2**; ang Nanonets ay dahil sa lisensya. Pinanatili ang dots.mocr bilang production pick dahil kaya nitong mag-parse at maglarawan ng mga figure, kahit mas mataas ang score ng PaddleOCR-VL 1.6 (94.74 laban sa 86.81).

**Embeddings**

-   Na-rule out ang **gemini-embedding-2** para sa Arabic matapos itong humina kumpara sa gemini-embedding-001 (0.767 laban sa 0.824 sa retrieval benchmark ng BroadNet).
-   Ang **nomic-embed-text v1.5**, ang dating incumbent, ay nakakuha ng 0.468 sa kabuuan at 0.130 sa Arabic, at itinigil na.
-   Pinatakbo at na-rule out ang **Octen 8B, Harrier 0.6B at Nemotron Embed 1B** sa totoong Arabic na traffic, “where our podium held despite their public-board wins” (salin: kung saan nanatili ang aming podium sa kabila ng kanilang panalo sa public board).

May isang natuklasan pang idinagdag ang BroadNet na mas mabigat pa sa pagpili ng model: ang query instruction na espesipiko sa workload ay nagpagalaw sa kalidad ng retrieval (nDCG) nang 0.048, mas malaki pa kaysa sa paglipat mula 4B patungong 8B na embedding model.

**Image generation at safety**

-   Na-rule out ang **Cosmos3 Super 64B at HunyuanImage 3.0 80B** dahil sa pagkakasya sa hardware at sa lisensya.
-   Nahuli ng **openai/privacy-filter 1.5B** ang 100% ng mga credential pero 0% ng mga numero ng sahod sa leak corpus ng BroadNet, kaya na-rule out ito bilang firewall.

## Ano ang matututunan mo sa mga pagtanggi?

Apat na aral ang totoo kahit lampas sa sariling stack ng BroadNet:

1.  **I-test ang trabaho, hindi ang leaderboard.** Ilang embedding model na may panalo sa public board ang natalo sa totoong Arabic na traffic.
2.  **Hiwalay na gate ang safety.** Puwede pa ring bumagsak sa credential test ang mabilis at mahusay na model. Magpatakbo ng isa bago makakita ng secret ang model; magandang simula ang [paraan ng evaluation](https://broadrouter.com/fil/blog/llm-sensitive-data-safety-evaluation-method/) ng BroadNet.
3.  **Lisensya ang nagpapasya kung ano ang puwedeng i-serve.** Lumalabas lang sa catalogue bilang quality ceiling ang mga non-commercial na model gaya ng Voxtral 4B TTS at Higgs Audio v3.
4.  **Sinusukat din ang mga desisyon sa serving.** Na-rule out ang mga quantisation format at drafting method batay sa numero ng head-to-head, hindi bilang default. Tingnan ang [GPU hardware at paraan ng serving ng BroadNet](https://broadrouter.com/fil/blog/broadnet-gpu-fleet-and-serving/).

Galing sa lab at traffic ng iisang kompanya ang bawat numero rito. Gamitin ito bilang shortlist ng dapat i-test, saka [mag-evaluate sa sarili mong data](https://broadrouter.com/fil/blog/evaluate-llm-before-switching/) bago lumipat. Hindi rin matatawag sa API ang row na ruled out o benchmarked; ipinapaliwanag ng [pagbasa ng model catalogue](https://broadrouter.com/fil/blog/understand-model-status/) kung paano makikilala ang live, on-request at research na mga entry.

Mga libreng tool para rito (Ingles)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [LLM token counter](https://broadrouter.com/tools/token-counter/) Exact token counts with each model's real tokenizer, with a token view and cost.
-   [Context window calculator](https://broadrouter.com/tools/context-window-calculator/) Will it fit? Window used per model, room left for output, cost to send.

[Libreng tools (Ingles)](https://broadrouter.com/tools/)

## Mga termino sa artikulong ito

[Embeddings](https://broadrouter.com/fil/glossary/embeddings/)

Ang embeddings ay mga listahan ng floating-point na numero (vector) na binubuo ng isang model para kumatawan sa isang piraso ng text, larawan o ibang input. Magkakalapit ang vector ng mga input na magkatulad ang kahulugan, kaya magagamit ang layo ng mga vector para i-rank ang search results, i-cluster ang mga dokumento o hanapin ang magkakaugnay na item.

[AWQ (activation-aware weight quantization)](https://broadrouter.com/fil/glossary/awq/)

Ang AWQ (activation-aware weight quantization) ay post-training method na nagko-compress sa weights ng LLM sa mababang precision, kadalasang 4-bit integers. Gumagamit ito ng activation statistics mula sa maliit na calibration set para hanapin ang pinakamahalagang weight channels at i-scale ang mga ito para mas kaunti ang mawalang accuracy. Hindi nito kailangan ng backpropagation.

[Token](https://broadrouter.com/fil/glossary/token/)

Ang token ay ang yunit ng text na binabasa at isinusulat ng isang language model: isang salita, bahagi ng salita, bantas o byte sequence na ginawa ng tokenizer ng model. Sa token binibilang, nililimitahan at kadalasang sinisingil ng mga LLM API ang paggamit.

[Word error rate (WER)](https://broadrouter.com/fil/glossary/word-error-rate/)

Ang word error rate (WER) ay ang karaniwang sukatan ng accuracy sa speech recognition: ang bilang ng substitution, deletion at insertion ng salita na kailangan para gawing tamang reference ang isang transcript, hinati sa bilang ng salita sa reference. Mas mababa, mas maganda.

[Concurrency](https://broadrouter.com/fil/glossary/concurrency/)

Ang concurrency ay ang bilang ng request na sabay-sabay na in flight mula sa isang client. Madalas itong nililimitahan ng mga LLM API kada key o plan, hiwalay sa requests per minute, dahil humahawak ng GPU capacity ang bawat bukas na request hanggang matapos ang response nito.

[INT4](https://broadrouter.com/fil/glossary/int4/)

Ang INT4 ay 4-bit na integer number format na kayang mag-represent ng 16 na level. Sa LLM inference, kadalasan itong tumutukoy sa 4-bit weight-only quantization (W4A16): iniimbak ang weights bilang INT4 kasama ng mga scale factor at pinalalawak sa 16-bit habang nagkukuwenta, kaya mga sangkapat lang ng memory ng 16-bit na weights ang gamit.

[Mixture of experts (MoE)](https://broadrouter.com/fil/glossary/mixture-of-experts/)

Ang mixture of experts (MoE) ay disenyo ng neural network kung saan may maraming expert sub-network ang isang layer at ipinapadala ng isang natutong router ang bawat token sa iilan lang sa mga ito. Malaki ang kabuuang bilang ng parameter ng isang MoE language model pero maliit na active na bahagi lang ang ginagamit kada token.

[Open-weight model](https://broadrouter.com/fil/glossary/open-weight-model/)

Ang open-weight model ay machine learning model na inilathala ang trained weights para i-download at patakbuhin ng kahit sino, kadalasan sa ilalim ng lisensyang may kondisyon. Iba ito sa ganap na open-source AI, na naglalabas din ng training code at detalyadong impormasyon tungkol sa training data para mapag-aralan at ma-reproduce ng iba ang model.

## Mga tanong

### Bakit inilalathala ng BroadNet ang mga model na tinatanggihan nito?

Sabi ng catalogue nito, inilalathala nito ang "what we rule out as carefully as what we ship" (salin: ang tinatanggihan namin nang kasing-ingat ng inilalabas namin), para makita ng mga buyer ang dahilan sa likod ng bawat rekomendasyon. Ang pagtanggi na may dahilan ay ebidensyang puwede mong i-test sa sarili mong workload.

### Ibig bang sabihin ng "ruled out" ay pangit ang model?

Hindi. Karamihan sa mga pagtanggi ay para sa isang slot sa sariling pipeline ng BroadNet, sa setup at traffic na iniuulat ng BroadNet. Natalo ang Qwen3.6 35B A3B at Gemma 4 E4B sa Gemma 4 26B para sa chatbot slot; puwede pa rin silang bumagay sa trabaho mo.

### Ano ang credential-safety battery?

Ito ang test ng BroadNet kung inuulit ng model ang mga credential na nakikita nito, batay sa inilathala nitong paraan ng sensitive-data evaluation. Ang mga model na bumabagsak ay hindi itinataas sa production para sa mga security role.

### Bakit nare-rule out ng lisensya ang ilang model?

Non-commercial ang ilang malalakas na model, gaya ng Voxtral 4B TTS at Higgs Audio v3, kaya bine-benchmark lang sila ng BroadNet bilang quality ceiling at hindi nito sila maipapatakbo sa bayad na API.

### Available ba sa BroadNet Inference ang mga ruled-out na model?

Hindi. Anim na model ang ibinebenta ng API, at tatlo pa ang available kapag hiniling. Hindi iniaalok ang mga model na may markang ruled out.

## Magbasa pa

-   [GPU hardware at paraan ng serving ng BroadNet, ayon sa BroadNet](https://broadrouter.com/fil/blog/broadnet-gpu-fleet-and-serving/)
-   [Paano mag-evaluate ng LLM bago lumipat ng provider](https://broadrouter.com/fil/blog/evaluate-llm-before-switching/)
-   [The Safety Map: paano hinahawakan ng 39 na LLM ang sensitibong data](https://broadrouter.com/fil/blog/llm-safety-map-39-models/)
-   [Arabic speech-to-text API: paano pumili sa 2026](https://broadrouter.com/fil/blog/arabic-speech-to-text-api-buyers-guide/)
-   [Live, on request, research: paano basahin ang model catalogue](https://broadrouter.com/fil/blog/understand-model-status/)
-   [Alternatibo sa Artificial Analysis: saan ihahambing ang LLM sa 2026](https://broadrouter.com/fil/blog/artificial-analysis-alternatives/)
-   [LLM API SLA: ano ang pangako ng Azure, Bedrock, Google at OpenAI](https://broadrouter.com/fil/blog/llm-api-sla-uptime-compared/)
-   [Gabay: Subukan ang BroadNet Inference sa browser, walang account](https://broadrouter.com/fil/guides/try-broadnet-inference-playground/)

Subukan ito sa totoong workload mo. May US$5 na panimulang credit ang mga bagong account para sa Gemma at transcription. Kailangan ng top-up para sa DeepSeek, GLM, at Qwen3.8.

[Magsimula](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=fil-blog-models-broadnet-ruled-out&utm_content=page-cta) ·

**Mga source**

-   [Model catalogue ng BroadNet: bawat model na pinapatakbo, bine-benchmark, kina-quantize o fine-tune nito, kasama ang mga ruled out (sinukat noong Setyembre 2026; kinuha noong 2026-11-15) (Ingles)](https://www.broadnet.ai/inference/models)
-   [BroadNet Research: mga natuklasan tungkol sa speculative decoding at serving (kinuha noong 2026-11-15) (Ingles)](https://www.broadnet.ai/research)
-   [Model page ng Gemma 4 VL 26B sa BroadNet (kinuha noong 2026-11-15) (Ingles)](https://www.broadnet.ai/inference/models/gemma-4-vl-26b)
-   [Model page ng BroadNet Transcribe Arabic (kinuha noong 2026-11-15) (Ingles)](https://www.broadnet.ai/inference/models/cohere-transcribe-arabic)
