La mayoría de los proveedores de LLM ya hablan el formato de la API de OpenAI. Eso hace que cambiar parezca cuestión de una línea, y para obtener una primera respuesta, lo es. Para llevar tráfico de producción, recorra esta lista. Cada punto proviene de una forma real en que fallan las migraciones.
0. ¿Qué usa hoy su aplicación?
Antes de cambiar nada, anote de qué depende su aplicación. Busque en el código cada llamada al SDK y haga una lista. Si llama a la API de Whisper de OpenAI, tenga en cuenta que OpenAI indica que whisper-1 dejará de funcionar el 26 de febrero de 2027; alternativas a la API de Whisper cubre la parte de audio.
| Función | Dónde buscar | Qué probar después del cambio |
|---|---|---|
| Chat completions | Cada chat.completions.create |
Mismos prompts, compare las respuestas |
| Streaming | stream=True |
Llegan los fragmentos, termina con [DONE], hay datos de uso |
| Llamadas a herramientas | tools= |
Las llamadas a herramientas se analizan y se ejecutan |
| Salida estructurada | response_format= |
El JSON valida contra su esquema |
| Imágenes | Partes de imagen en los mensajes | El modelo las acepta |
| Transcripción de audio | audio.transcriptions |
Texto e idioma correctos |
| Embeddings, archivos, lotes | Otros endpoints | Compruebe si el proveedor los ofrece siquiera |
La última fila importa. «Compatible con OpenAI» suele cubrir primero los chat completions. El catálogo de BroadNet Inference ofrece modelos de chat en /v1/chat/completions y modelos de voz a texto en /v1/audio/transcriptions; si usa otros endpoints, manténgalos en su proveedor actual o busque un reemplazo.
1. ¿Qué tres ajustes cambian?
from openai import OpenAI
import os
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"],
)
El nombre del ajuste de la URL base depende de la biblioteca: base_url en el SDK de Python y en ChatOpenAI de LangChain, baseURL en el SDK de Node.js. El SDK de Python también lee la variable de entorno OPENAI_BASE_URL, según su README. Compruebe que no quede un valor antiguo en su entorno, o las solicitudes podrían ir al proveedor anterior sin ningún error.
Guarde las claves de API en variables de entorno o en un gestor de secretos, nunca en el código. Configuración para cada SDK: Python, Node.js, LangChain. Para crear y probar a mano una primera solicitud, use el generador de solicitudes de API. Para aplicar los cambios de URL base, clave y modelo a código existente, péguelo en el asistente de migración de OpenAI a BroadNet, que además enumera lo que debe comprobar.
2. ¿Cuáles son los nuevos IDs de modelo?
Cada proveedor nombra los modelos a su manera. En BroadNet Inference:
| Modelo | ID |
|---|---|
| DeepSeek V4.1 Flash | broadnet/deepseek-v4.1-flash |
| GLM 5.3 | broadnet/glm-5.3 |
| Qwen3.8 27B | broadnet/qwen3.8-27b |
| Gemma 4 VL 26B | broadnet/gemma-4-26b-a4b |
Ponga el ID de modelo en la configuración, no en el código, para que un cambio futuro sea un despliegue y no una reescritura. Los límites y precios de cada modelo están en su página: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B y Gemma 4 VL 26B.
3. ¿Por qué llegan respuestas vacías después del cambio?
Es la sorpresa más común. DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y los tokens de razonamiento cuentan dentro de max_tokens. Un límite de 256 que funcionaba con un modelo sin razonamiento puede gastarse entero en pensar, y la respuesta llega vacía. Deje 1,000 tokens o más, o ponga reasoning_effort en low para tareas simples. Explicación completa.
4. ¿El streaming sigue informando del uso?
Los streams usan Server-Sent Events y terminan con data: [DONE]. El uso de tokens llega en el último fragmento solo si lo pide:
stream = client.chat.completions.create(
model="broadnet/deepseek-v4.1-flash", messages=messages,
stream=True, stream_options={"include_usage": True},
)
Sin eso, su panel de costos marcará cero. Si un stream termina antes de [DONE], trátelo como incompleto. Guía de streaming.
5. ¿Qué errores conviene reintentar?
| Estado | Significado | Acción |
|---|---|---|
| 401 | Clave incorrecta o revocada, o asignación de pago por uso agotada | Corregir, no reintentar |
| 402 | Saldo o presupuesto | Recargar, no reintentar |
| 403 | Rechazo por política de modelo, ruta o IP | Corregir la discrepancia |
| 413 | Solicitud demasiado grande | Reducirla, no reintentar |
| 429 | Límite de frecuencia, concurrencia o gasto | Esperar y reintentar |
| 5xx | Error del servidor | Reintentar con backoff acotado |
El SDK oficial de Python ya reintenta algunos errores: su README dice que los errores de conexión y las respuestas 408, 409, 429 y 5xx se reintentan dos veces por defecto con un backoff exponencial corto. Defina max_retries de forma explícita para que el comportamiento sea una decisión suya y no un valor por defecto. Registre el ID de solicitud de cada respuesta para que el soporte pueda rastrear un problema. Todos los códigos.
6. ¿Cuáles son los nuevos límites de frecuencia?
Conozca los nuevos límites antes de que llegue el tráfico. Una clave de pago por uso de BroadNet permite 30 solicitudes por minuto y 4 en curso. Los planes ilimitados ejecutan una solicitud a la vez por sesión. Dimensione su grupo de workers en consecuencia o verá errores 429 desde el primer día; la calculadora de límites de frecuencia hace ese cálculo. Dimensionamiento para agentes en paralelo.
7. ¿Sus prompts seguirán cabiendo?
Revise las ventanas de contexto: 1,048,576 tokens en DeepSeek V4.1 Flash y GLM 5.3, 262,144 en Qwen3.8 27B y 32,768 en Gemma 4 VL 26B. Un prompt que cabía en su modelo anterior puede no caber en una ventana más pequeña; compruébelo con la calculadora de ventana de contexto. Ponga primero el contenido estable del prompt para aprovechar el precio de la entrada en caché.
8. ¿Y las claves y la retención de datos?
Restrinja las claves de producción a las IP de sus servidores con una lista de IP permitidas. Pregunte al nuevo proveedor qué conserva; consulte la lista de verificación de retención cero de datos (ZDR).
9. ¿Cómo hacer el cambio con seguridad?
- Envíe una copia de las solicitudes reales de un día a ambos proveedores.
- Compare las respuestas en una muestra, además de la latencia, los errores y el costo por solicitud.
- Mueva el 10 % del tráfico, observe durante un día y luego mueva el resto.
- Mantenga configurado el proveedor anterior como respaldo durante una semana.
Si gestiona muchos servicios, un proxy como LiteLLM le permite cambiar de proveedor en un solo lugar en vez de en cada aplicación.
¿Cuáles son los errores de migración más comunes?
- Falta
/v1en la URL base. Las solicitudes devuelven 404. Use la URL completa. - Nombres de modelo antiguos en la configuración. El nuevo proveedor no los reconoce.
- Campos propios del proveedor anterior en las solicitudes. Los campos que solo entendía el proveedor anterior pueden rechazarse o ignorarse. Quítelos de los clientes genéricos.
- Probar un solo prompt. Recorra el inventario del paso 0, función por función.
- Hacer el cambio un viernes. Deje tiempo para observar un día completo de tráfico real.
Dónde encaja BroadNet Inference
BroadNet Inference es un reemplazo directo para aplicaciones que usan chat completions y transcripción de audio con los SDK de OpenAI: cambie tres ajustes y recorra la lista anterior. Su catálogo solo incluye modelos de chat y de voz a texto, así que, si depende de otros endpoints, como embeddings o almacenamiento de archivos, manténgalos con otro proveedor. Las cuentas nuevas empiezan con $5 de crédito. De los modelos de chat, solo Gemma 4 VL 26B funciona con él (también cubre los dos modelos Transcribe), así que una prueba en paralelo (shadow test) con DeepSeek, GLM o Qwen requiere una recarga.
