O formato da API da OpenAI virou a língua comum das ferramentas de LLM. Hoje muitos provedores o aceitam, então uma única biblioteca cliente consegue conversar com vários backends.
Como funciona
Uma API compatível copia as partes da API da OpenAI de que os clientes dependem:
- os mesmos caminhos, como
/v1/chat/completionse/v1/audio/transcriptions; - as mesmas estruturas JSON: um array
messagesna entrada,choices[0].message.contentna saída e um blocousagecom as contagens de tokens; - uma chave de API enviada como
Authorization: Bearer <key>; - streaming como server-sent events quando
streamé true.
Trocar de provedor é uma mudança de configuração. Com o SDK Python oficial:
from openai import OpenAI
import os
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)
Em relação a um exemplo da OpenAI, só três valores mudaram: a base URL, a chave e o ID do modelo.
Por que importa
A compatibilidade reduz o custo de troca. SDKs, frameworks de agentes, plugins de IDE e roteadores que falam o formato da OpenAI funcionam sem código novo. Você consegue testar um segundo provedor em minutos e manter a opção de migrar.
Mas compatível não é idêntico. A própria camada de compatibilidade da Anthropic, por exemplo, ignora strict nas ferramentas e deixa prompt_tokens_details vazio. As diferenças típicas são:
- parâmetros ignorados ou recusados;
- como os tokens de raciocínio contam para
max_tokens; - se o usage é informado no fim de um stream;
- limites de taxa e códigos de erro.
Na BroadNet Inference
A BroadNet Inference oferece POST /v1/chat/completions, POST /v1/audio/transcriptions e GET /v1/models em https://inference.broadnet.ai/v1. As chaves são enviadas apenas como Authorization: Bearer <key>. Os guias de Python e de Node mostram configurações completas, e o LangChain funciona do mesmo jeito.
Duas diferenças para planejar: DeepSeek V4.1 Flash, GLM 5.3 e Qwen3.8 27B raciocinam antes de responder, e o raciocínio conta para max_tokens. Além disso, uma chave de pagamento por uso permite 30 requisições por minuto e 4 simultâneas. O checklist de migração cobre o resto.
Erros comuns
- Manter um nome de modelo da OpenAI, como
gpt-6-astra(o modelo principal da OpenAI na página de modelos dela, consultada em 2026-11-15). Use o ID de modelo do provedor. - Supor que um parâmetro funciona porque a requisição deu certo. Alguns provedores ignoram campos desconhecidos em silêncio.