BroadRouter
Comenzar

Cambiar a una API compatible con OpenAI: lista de verificación

Por el equipo de BroadNet Inference · 5 min de lectura · Publicado · Actualizado

Para pasar a una API compatible con OpenAI, cambie tres ajustes (base_url, api_key y model) y luego revise lo que difiere: los IDs de modelo, cómo cuentan los tokens de razonamiento en max_tokens, cómo informa el streaming del uso, qué errores reintentar, los límites de frecuencia y la seguridad de las claves. En BroadNet Inference, la URL base es https://inference.broadnet.ai/v1.

La mayoría de los proveedores de LLM ya hablan el formato de la API de OpenAI. Eso hace que cambiar parezca cuestión de una línea, y para obtener una primera respuesta, lo es. Para llevar tráfico de producción, recorra esta lista. Cada punto proviene de una forma real en que fallan las migraciones.

0. ¿Qué usa hoy su aplicación?

Antes de cambiar nada, anote de qué depende su aplicación. Busque en el código cada llamada al SDK y haga una lista. Si llama a la API de Whisper de OpenAI, tenga en cuenta que OpenAI indica que whisper-1 dejará de funcionar el 26 de febrero de 2027; alternativas a la API de Whisper cubre la parte de audio.

Función Dónde buscar Qué probar después del cambio
Chat completions Cada chat.completions.create Mismos prompts, compare las respuestas
Streaming stream=True Llegan los fragmentos, termina con [DONE], hay datos de uso
Llamadas a herramientas tools= Las llamadas a herramientas se analizan y se ejecutan
Salida estructurada response_format= El JSON valida contra su esquema
Imágenes Partes de imagen en los mensajes El modelo las acepta
Transcripción de audio audio.transcriptions Texto e idioma correctos
Embeddings, archivos, lotes Otros endpoints Compruebe si el proveedor los ofrece siquiera

La última fila importa. «Compatible con OpenAI» suele cubrir primero los chat completions. El catálogo de BroadNet Inference ofrece modelos de chat en /v1/chat/completions y modelos de voz a texto en /v1/audio/transcriptions; si usa otros endpoints, manténgalos en su proveedor actual o busque un reemplazo.

1. ¿Qué tres ajustes cambian?

from openai import OpenAI
import os

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
)

El nombre del ajuste de la URL base depende de la biblioteca: base_url en el SDK de Python y en ChatOpenAI de LangChain, baseURL en el SDK de Node.js. El SDK de Python también lee la variable de entorno OPENAI_BASE_URL, según su README. Compruebe que no quede un valor antiguo en su entorno, o las solicitudes podrían ir al proveedor anterior sin ningún error.

Guarde las claves de API en variables de entorno o en un gestor de secretos, nunca en el código. Configuración para cada SDK: Python, Node.js, LangChain. Para crear y probar a mano una primera solicitud, use el generador de solicitudes de API. Para aplicar los cambios de URL base, clave y modelo a código existente, péguelo en el asistente de migración de OpenAI a BroadNet, que además enumera lo que debe comprobar.

2. ¿Cuáles son los nuevos IDs de modelo?

Cada proveedor nombra los modelos a su manera. En BroadNet Inference:

Modelo ID
DeepSeek V4.1 Flash broadnet/deepseek-v4.1-flash
GLM 5.3 broadnet/glm-5.3
Qwen3.8 27B broadnet/qwen3.8-27b
Gemma 4 VL 26B broadnet/gemma-4-26b-a4b

Ponga el ID de modelo en la configuración, no en el código, para que un cambio futuro sea un despliegue y no una reescritura. Los límites y precios de cada modelo están en su página: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B y Gemma 4 VL 26B.

3. ¿Por qué llegan respuestas vacías después del cambio?

Es la sorpresa más común. DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B razonan antes de responder, y los tokens de razonamiento cuentan dentro de max_tokens. Un límite de 256 que funcionaba con un modelo sin razonamiento puede gastarse entero en pensar, y la respuesta llega vacía. Deje 1,000 tokens o más, o ponga reasoning_effort en low para tareas simples. Explicación completa.

4. ¿El streaming sigue informando del uso?

Los streams usan Server-Sent Events y terminan con data: [DONE]. El uso de tokens llega en el último fragmento solo si lo pide:

stream = client.chat.completions.create(
    model="broadnet/deepseek-v4.1-flash", messages=messages,
    stream=True, stream_options={"include_usage": True},
)

Sin eso, su panel de costos marcará cero. Si un stream termina antes de [DONE], trátelo como incompleto. Guía de streaming.

5. ¿Qué errores conviene reintentar?

Estado Significado Acción
401 Clave incorrecta o revocada, o asignación de pago por uso agotada Corregir, no reintentar
402 Saldo o presupuesto Recargar, no reintentar
403 Rechazo por política de modelo, ruta o IP Corregir la discrepancia
413 Solicitud demasiado grande Reducirla, no reintentar
429 Límite de frecuencia, concurrencia o gasto Esperar y reintentar
5xx Error del servidor Reintentar con backoff acotado

El SDK oficial de Python ya reintenta algunos errores: su README dice que los errores de conexión y las respuestas 408, 409, 429 y 5xx se reintentan dos veces por defecto con un backoff exponencial corto. Defina max_retries de forma explícita para que el comportamiento sea una decisión suya y no un valor por defecto. Registre el ID de solicitud de cada respuesta para que el soporte pueda rastrear un problema. Todos los códigos.

6. ¿Cuáles son los nuevos límites de frecuencia?

Conozca los nuevos límites antes de que llegue el tráfico. Una clave de pago por uso de BroadNet permite 30 solicitudes por minuto y 4 en curso. Los planes ilimitados ejecutan una solicitud a la vez por sesión. Dimensione su grupo de workers en consecuencia o verá errores 429 desde el primer día; la calculadora de límites de frecuencia hace ese cálculo. Dimensionamiento para agentes en paralelo.

7. ¿Sus prompts seguirán cabiendo?

Revise las ventanas de contexto: 1,048,576 tokens en DeepSeek V4.1 Flash y GLM 5.3, 262,144 en Qwen3.8 27B y 32,768 en Gemma 4 VL 26B. Un prompt que cabía en su modelo anterior puede no caber en una ventana más pequeña; compruébelo con la calculadora de ventana de contexto. Ponga primero el contenido estable del prompt para aprovechar el precio de la entrada en caché.

8. ¿Y las claves y la retención de datos?

Restrinja las claves de producción a las IP de sus servidores con una lista de IP permitidas. Pregunte al nuevo proveedor qué conserva; consulte la lista de verificación de retención cero de datos (ZDR).

9. ¿Cómo hacer el cambio con seguridad?

  1. Envíe una copia de las solicitudes reales de un día a ambos proveedores.
  2. Compare las respuestas en una muestra, además de la latencia, los errores y el costo por solicitud.
  3. Mueva el 10 % del tráfico, observe durante un día y luego mueva el resto.
  4. Mantenga configurado el proveedor anterior como respaldo durante una semana.

Si gestiona muchos servicios, un proxy como LiteLLM le permite cambiar de proveedor en un solo lugar en vez de en cada aplicación.

¿Cuáles son los errores de migración más comunes?

  • Falta /v1 en la URL base. Las solicitudes devuelven 404. Use la URL completa.
  • Nombres de modelo antiguos en la configuración. El nuevo proveedor no los reconoce.
  • Campos propios del proveedor anterior en las solicitudes. Los campos que solo entendía el proveedor anterior pueden rechazarse o ignorarse. Quítelos de los clientes genéricos.
  • Probar un solo prompt. Recorra el inventario del paso 0, función por función.
  • Hacer el cambio un viernes. Deje tiempo para observar un día completo de tráfico real.

Dónde encaja BroadNet Inference

BroadNet Inference es un reemplazo directo para aplicaciones que usan chat completions y transcripción de audio con los SDK de OpenAI: cambie tres ajustes y recorra la lista anterior. Su catálogo solo incluye modelos de chat y de voz a texto, así que, si depende de otros endpoints, como embeddings o almacenamiento de archivos, manténgalos con otro proveedor. Las cuentas nuevas empiezan con $5 de crédito. De los modelos de chat, solo Gemma 4 VL 26B funciona con él (también cubre los dos modelos Transcribe), así que una prueba en paralelo (shadow test) con DeepSeek, GLM o Qwen requiere una recarga.

Preguntas frecuentes

¿Necesito otro SDK?

No. Los SDK oficiales de OpenAI para Python y Node.js aceptan una URL base personalizada. Los frameworks construidos sobre ellos, como ChatOpenAI de LangChain, también.

¿Cómo cambio la URL base en el SDK de OpenAI?

Pase base_url al cliente en Python o baseURL en Node.js, o defina la variable de entorno OPENAI_BASE_URL. En BroadNet Inference el valor es https://inference.broadnet.ai/v1, y la clave va en api_key.

¿Por qué recibo una respuesta vacía después del cambio?

Los modelos de razonamiento como DeepSeek V4.1 Flash, GLM 5.3 y Qwen3.8 27B piensan antes de responder, y ese pensamiento cuenta dentro de max_tokens. Suba max_tokens a 1,000 o más, o ponga reasoning_effort en low.

¿Por qué recibo un error 404 o de modelo no encontrado después del cambio?

Normalmente, porque el ID de modelo sigue siendo el nombre del proveedor anterior o porque a la URL base le falta la ruta /v1. Use el ID de modelo exacto del nuevo proveedor y la URL base completa.

¿Qué errores debo reintentar?

Reintente 429 y 5xx con backoff exponencial acotado. Corrija 401, 402 y 413 antes de reintentar. La guía de errores de este sitio enumera todos los códigos.

¿Compatible con OpenAI significa idéntico?

No. La forma de las solicitudes y respuestas coincide, pero los IDs de modelo, los parámetros admitidos, los límites, los campos de uso y el detalle de los errores pueden variar. Pruebe cada función que use su aplicación.

Leer en MarkdownPreguntar a ChatGPTPreguntar a ClaudePreguntar a Perplexity