El formato de la API de OpenAI se convirtió en el idioma común de las herramientas de LLM. Muchos proveedores ya lo aceptan, así que una sola biblioteca cliente puede comunicarse con muchos backends.
Cómo funciona
Una API compatible copia las partes de la API de OpenAI de las que dependen los clientes:
- las mismas rutas, como
/v1/chat/completionsy/v1/audio/transcriptions; - los mismos formatos JSON: un arreglo
messagesde entrada,choices[0].message.contentde salida y un bloqueusagecon los conteos de tokens; - una clave de API enviada como
Authorization: Bearer <key>; - streaming como server-sent events cuando
streames true.
Cambiar de proveedor es un cambio de configuración. Con el SDK oficial para Python:
from openai import OpenAI
import os
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)
Solo cambiaron tres valores respecto de un ejemplo de OpenAI: la URL base, la clave y el ID del modelo.
Por qué importa
La compatibilidad reduce el costo de cambiar. Los SDKs, frameworks de agentes, plugins de IDE y routers que hablan el formato de OpenAI funcionan sin código nuevo. Puede probar un segundo proveedor en minutos y mantener la opción de migrar.
Pero compatible no significa idéntico. La propia capa de compatibilidad de Anthropic, por ejemplo, ignora strict en las herramientas y deja vacío prompt_tokens_details. Diferencias típicas:
- parámetros que se ignoran o se rechazan;
- cómo cuentan los tokens de razonamiento para
max_tokens; - si el uso se informa al final de un stream;
- límites de frecuencia y códigos de error.
En BroadNet Inference
BroadNet Inference ofrece POST /v1/chat/completions, POST /v1/audio/transcriptions y GET /v1/models en https://inference.broadnet.ai/v1. Las claves solo se envían como Authorization: Bearer <key>. Las guías de Python y Node muestran configuraciones completas, y LangChain funciona de la misma manera.
Hay dos diferencias que debe planificar: DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y el razonamiento cuenta para max_tokens. Además, una clave de pago por uso permite 30 solicitudes por minuto y 4 simultáneas. La lista de verificación para migrar cubre el resto.
Errores comunes
- Mantener un nombre de modelo de OpenAI como
gpt-6-astra(el modelo insignia de OpenAI en su página de modelos, consultada el 2026-11-15). Use el ID de modelo del proveedor. - Suponer que un parámetro funciona porque la solicitud tuvo éxito. Algunos proveedores ignoran en silencio los campos desconocidos.