«¿Qué modelo usamos?» es la segunda pregunta. La primera es «¿qué entra y qué tiene que salir?». La foto de una factura, una nota de voz de un cliente y una pregunta escrita van cada una a un tipo de endpoint distinto, y cada endpoint tiene sus propios modelos, límites y formas de fallar. Elija primero la tarea y la lista de modelos se reduce a dos o tres.
Esta guía relaciona tareas habituales con tipos de entrada y luego con lo que BroadNet Inference documenta para cada uno. BroadRouter es el sitio web de BroadNet; los datos de los modelos de abajo provienen del feed de precios y de la referencia de la API de BroadNet, consultados el 15 de noviembre de 2026.
¿Qué tipo de entrada necesita su tarea?
| Su tarea | Entrada | Salida | Endpoint | Modelos de BroadNet |
|---|---|---|---|---|
| Responder, resumir, clasificar o traducir texto | Texto | Texto | Chat completions | Cualquiera de los cuatro modelos de chat |
| Llamar a sus propias funciones o herramientas | Texto | Tool calls | Chat completions | GLM 5.3, Qwen3.8 27B (documentados) |
| Leer una foto, un escaneo, una captura o un formulario | Imagen + texto | Texto o JSON | Chat completions con imagen | DeepSeek V4.1 Flash, Qwen3.8 27B, Gemma 4 VL 26B |
| Convertir una grabación o nota de voz en texto | Archivo de audio | Texto | Audio transcriptions | Transcribe Arabic, Transcribe (14 idiomas) |
| Resumir una llamada o responder una nota de voz | Archivo de audio | Texto | Transcripción y luego chat | Uno de cada tipo |
| Decir una respuesta en voz alta | Texto | Audio | Texto a voz | No disponible |
| Mantener una conversación de voz en vivo | Stream de audio | Audio | Voz en tiempo real | No disponible |
| Crear una imagen | Texto | Imagen | Generación de imágenes | No disponible |
| Búsqueda semántica en documentos | Texto | Vectores | Embeddings | No disponible |
«Visión» en esta tabla significa comprensión de imágenes: el modelo lee una imagen que usted le envía. No significa generar imágenes. La entrada del glosario modelo de visión y lenguaje explica la diferencia.
¿Cuál es la diferencia entre chat y transcripción?
Son endpoints distintos, con formas de solicitud, unidades de facturación y modelos diferentes.
Chat (POST /v1/chat/completions) recibe una lista de mensajes en JSON y devuelve texto. Se cobra por token, entrada y salida por separado, y cada modelo tiene una ventana de contexto que contiene el prompt y la respuesta juntos. En BroadNet, tres de los cuatro modelos de chat razonan antes de responder, y ese razonamiento cuenta para max_tokens, así que deje margen (tokens de razonamiento y respuestas vacías).
Transcripción (POST /v1/audio/transcriptions) recibe un archivo de audio como carga multipart y devuelve la transcripción. Se cobra por minuto de audio. La documentación de BroadNet especifica WAV o MP3 de hasta 26,214,400 bytes por archivo y pide enviar siempre language, porque de lo contrario el árabe puede volver transliterado en letras latinas.
| Modelo | Idiomas | Precio |
|---|---|---|
| BroadNet Transcribe Arabic | Árabe: del Golfo, egipcio, levantino, magrebí y estándar moderno, según BroadNet | $0.0042 por minuto (unos $0.25 por hora) |
| BroadNet Transcribe | 14, entre ellos inglés, español, francés, mandarín y árabe | $0.002 por minuto (unos $0.12 por hora) |
Un modelo de chat en BroadNet no acepta audio, y un modelo de transcripción no responde preguntas. Un asistente de voz que responde por texto son dos llamadas: transcribir y luego chatear. Actas de reuniones en árabe a partir de grabaciones construye exactamente esa cadena.
¿Qué modelos aceptan imágenes?
Aquellos cuya entrada en el feed incluye image en modalities. Al 15 de noviembre de 2026:
| Modelo | Entradas | Contexto | Entrada / salida por 1M de tokens | Acceso |
|---|---|---|---|---|
| DeepSeek V4.1 Flash | Texto, imagen | 1,048,576 | $0.175 / $0.52 | Requiere recarga |
| Qwen3.8 27B | Texto, imagen | 262,144 | $0.175 / $2.17 | Requiere recarga |
| Gemma 4 VL 26B | Texto, imagen | 32,768 | $0.10 / $0.22 | Crédito inicial de $5 |
| GLM 5.3 | Solo texto | 1,048,576 | $0.78 / $3.46 | Requiere recarga |
Envíe la imagen como URL data: dentro del contenido del mensaje, con un tipo MIME correcto. La documentación de BroadNet dice que la visión se ofrece “only where the model row explicitly says images or vision” (Traducción: solo donde la fila del modelo indica explícitamente imágenes o visión). La documentación no enumera los formatos de imagen aceptados, así que pruebe cada formato que piense admitir. Con una clave de pago por uso, una imagen se cobra como tokens de entrada, y una imagen más grande usa más; redimensiónela antes de enviarla y haga la estimación con la calculadora de tokens de imagen. La extracción de documentos de principio a fin está en extraer datos de documentos con un LLM de visión.
¿Cómo enrutar cada entrada en el código?
Esta función elige el endpoint según el tipo de archivo, comprueba los límites documentados antes de enviar y lee la lista de modelos con capacidad de imagen desde el feed en vivo, en lugar de escribirla a mano. Usa el SDK de OpenAI para Python, que funciona con BroadNet tras cambiar la base URL (guía de configuración).
import base64, json, mimetypes, os, urllib.request
from pathlib import Path
from openai import OpenAI
client = OpenAI(base_url=os.environ.get("BROADNET_BASE_URL", "https://inference.broadnet.ai/v1"),
api_key=os.environ["BROADNET_API_KEY"])
feed = json.load(urllib.request.urlopen("https://inference.broadnet.ai/pricing.json", timeout=30))
live = [m for m in feed["models"] if m.get("status", "live") == "live"]
VISION = {m["id"] for m in live if "image" in m.get("modalities", [])}
AUDIO_TYPES = {"audio/wav", "audio/x-wav", "audio/mpeg"} # WAV or MP3, per the docs
AUDIO_MAX = 26_214_400 # bytes per file, per the docs
IMAGE_TYPES = {"image/jpeg", "image/png", "image/webp"} # your allow-list; test each one
def run(task: str, path: str | None = None, *, chat_model="broadnet/gemma-4-26b-a4b",
stt_model="broadnet/cohere-transcribe-arabic", language="ar") -> str:
kind = mimetypes.guess_type(path)[0] if path else None
if kind is None: # text only
r = client.chat.completions.create(model=chat_model, max_tokens=1500,
messages=[{"role": "user", "content": task}])
return r.choices[0].message.content
if kind in AUDIO_TYPES or kind.startswith("audio/"):
if kind not in AUDIO_TYPES:
raise ValueError(f"{kind}: convert first, e.g. ffmpeg -i in.ogg -ar 16000 -ac 1 out.wav")
if Path(path).stat().st_size > AUDIO_MAX:
raise ValueError("over 26,214,400 bytes: split the audio before sending")
with open(path, "rb") as f: # step 1: speech to text
text = client.audio.transcriptions.create(model=stt_model, file=f, language=language).text
return run(f"{task}\n\nTranscript:\n{text}", chat_model=chat_model) if task else text
if kind in IMAGE_TYPES:
if chat_model not in VISION:
raise ValueError(f"{chat_model} takes no images here; pick one of {sorted(VISION)}")
data = base64.b64encode(Path(path).read_bytes()).decode()
r = client.chat.completions.create(model=chat_model, max_tokens=1500, messages=[{"role": "user",
"content": [{"type": "text", "text": task},
{"type": "image_url", "image_url": {"url": f"data:{kind};base64,{data}"}}]}])
return r.choices[0].message.content
raise ValueError(f"unsupported input type {kind}")
La probamos con BROADNET_BASE_URL apuntando a un servidor simulado local (sin llamadas a la API real) y con el feed de precios en vivo. Texto, un archivo WAV, un archivo WAV con una tarea posterior y un PNG llegaron cada uno al endpoint simulado correcto. Enviar el PNG con chat_model="broadnet/glm-5.3" se rechazó antes de cualquier solicitud, con la lista de los tres ID con capacidad de imagen tomados del feed. Un archivo .ogg se rechazó con el comando de ffmpeg para convertirlo; transcribir notas de voz de WhatsApp cubre ese paso. Las grabaciones que superan el tamaño máximo hay que dividirlas; el divisor de audio genera los comandos de ffmpeg.
¿Y si el documento ya es texto?
Entonces no envíe una imagen de él. Un PDF exportado desde un sistema contable o un procesador de textos suele tener una capa de texto; extráigala con una biblioteca de PDF y envíe el texto a un modelo de chat. Es más barato que una imagen con una clave de pago por uso, evita errores de lectura y también funciona con GLM 5.3. Reserve la visión para escaneos, fotos de teléfono, escritura a mano, sellos y capturas de pantalla, donde no hay capa de texto que extraer.
Una regla útil en un pipeline de documentos: intente primero extraer el texto, compruebe si devolvió texto real (no páginas vacías ni caracteres corruptos) y recurra a la imagen solo si no lo hizo. En los PDF en árabe, lea una muestra del texto extraído antes de fiarse: según cómo se haya generado el PDF, la extracción puede devolver las letras árabes en el orden equivocado o en formas de presentación sin unir. OCR en árabe con un LLM de visión cubre los casos en que la imagen es la mejor fuente.
¿Cómo se comparan los costos?
Cada tipo de entrada se cobra en su propia unidad, así que compare por tarea, no por solicitud:
- El texto se cobra por token de entrada y de salida. El árabe suele necesitar más tokens que el inglés para el mismo contenido; el contador de tokens en árabe lo mide.
- Las imágenes en pago por uso son tokens de entrada al precio de entrada del modelo, así que una foto grande puede costar más que una página de texto. En un plan de sesiones de DeepSeek, las imágenes están incluidas en el precio fijo.
- El audio se cobra por minuto de audio, se diga lo que se diga. En BroadNet, 10,000 notas de voz en árabe de 30 segundos cada una cuestan unos $21.00 con el modelo árabe. La calculadora de costos de voz a texto calcula otros volúmenes.
Una cadena suma sus partes: una nota de voz respondida por un modelo de chat cuesta los minutos de transcripción más los tokens de chat de la transcripción y la respuesta. La calculadora de costos de API de LLM se encarga de la parte de chat.
¿Qué no se ofrece y qué hacer en su lugar?
La referencia de la API de BroadNet documenta dos endpoints de inferencia: chat completions y audio transcriptions. Por tanto, no hay:
- Texto a voz. No existe
/v1/audio/speech. Si su producto debe responder hablando, combine la transcripción y el chat de BroadNet con un servicio de TTS aparte. - Voz en vivo. La transcripción recibe un archivo subido, no un stream de audio en vivo. Para un agente telefónico que deba responder durante la llamada, necesita una plataforma de voz en tiempo real en otro lugar. Grabar audio del navegador para transcribir muestra la alternativa basada en archivos.
- Generación de imágenes. Aquí la visión lee imágenes; no las crea.
- Embeddings. No existe
/v1/embeddings. Para recuperación necesita un modelo de embeddings de otro proveedor o autoalojado; la calculadora de costos de embeddings compara precios.
El catálogo de investigación de BroadNet sí enumera modelos de texto a voz, de generación de imágenes y de embeddings, marcados como evaluados en su laboratorio. Eso registra lo que BroadNet probó, no lo que vende su API; cómo leer un catálogo de modelos explica la diferencia.
¿Por qué necesita un conjunto de evaluación aparte para cada entrada?
Porque cada tipo de entrada falla de manera distinta, y un promedio entre todos oculta los fallos.
- Texto: evalúe con mensajes reales de usuarios, con comprobaciones en código cuando sea posible. El método está en evaluar un LLM antes de cambiar.
- Imágenes: use fotos reales con calidad real: fotos de teléfono en ángulo, recibos desvaídos, sellos sobre el texto. Evalúe cada campo por separado. Un PDF limpio renderizado puntúa mucho más alto que las fotos que enviarán sus usuarios.
- Voz: mida la tasa de error de palabras con sus propias grabaciones, desglosada por dialecto, hablante y calidad de línea, y revise aparte las palabras que importan (nombres, números, importes). Consulte el WER en ASR árabe explicado.
- Cadenas: cuando la voz alimenta a un modelo de chat, evalúe ambos pasos y el resultado final. Un número mal oído se convierte en una respuesta incorrecta dada con seguridad, y solo una prueba de extremo a extremo muestra con qué frecuencia.
Mantenga los conjuntos separados, versiónelos y vuelva a ejecutar el que corresponda cada vez que cambie un modelo o un prompt.
Dónde encaja BroadNet Inference
BroadNet Inference cubre las cinco primeras filas de la tabla de tareas con una sola clave y una sola base URL: chat de texto, tool calling en GLM 5.3 y Qwen3.8 27B, comprensión de imágenes en tres modelos y transcripción en árabe o multilingüe. Gemma 4 VL 26B y los dos modelos de transcripción funcionan con el crédito inicial de $5; DeepSeek, GLM y Qwen requieren una recarga. El contenido de inferencia no se retiene; los metadatos necesarios de cuenta, facturación y seguridad se conservan como se describe en la declaración de privacidad de BroadNet. Para hablar, generar imágenes, voz en vivo o embeddings, use otro servicio. Los precios de todo lo anterior están en la página de precios.
