OpenAI’nin API biçimi, LLM araçlarının ortak dili hâline geldi. Artık birçok sağlayıcı bu biçimi kabul ediyor; böylece tek bir istemci kütüphanesi birçok arka uçla konuşabiliyor.
Nasıl çalışır
Uyumlu bir API, OpenAI API’sinin istemcilerin dayandığı kısımlarını kopyalar:
/v1/chat/completionsve/v1/audio/transcriptionsgibi aynı yollar;- aynı JSON yapıları: girdide bir
messagesdizisi, çıktıdachoices[0].message.contentve token sayılarını içeren birusagebloğu; Authorization: Bearer <key>olarak gönderilen bir API anahtarı;streamtrue olduğunda server-sent events olarak akış.
Geçiş bir yapılandırma değişikliğidir. Resmi Python SDK ile:
from openai import OpenAI
import os
client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
model="broadnet/gemma-4-26b-a4b",
messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)
Bir OpenAI örneğine göre yalnızca üç değer değişti: base URL, anahtar ve model kimliği.
Neden önemli
Uyumluluk geçiş maliyetini düşürür. OpenAI biçimini konuşan SDK’lar, ajan çatıları, IDE eklentileri ve yönlendiriciler yeni kod yazmadan çalışır. İkinci bir sağlayıcıyı dakikalar içinde test edebilir ve taşınma seçeneğini elinizde tutabilirsiniz.
Ancak uyumlu, aynı demek değildir. Örneğin Anthropic’in kendi uyumluluk katmanı araçlardaki strict alanını yok sayar ve prompt_tokens_details alanını boş bırakır. Tipik farklar şunlardır:
- yok sayılan veya reddedilen parametreler;
- akıl yürütme token’larının
max_tokenssınırına nasıl sayıldığı; - kullanımın akışın sonunda raporlanıp raporlanmadığı;
- hız sınırları ve hata kodları.
BroadNet Inference’ta
BroadNet Inference, https://inference.broadnet.ai/v1 adresinde POST /v1/chat/completions, POST /v1/audio/transcriptions ve GET /v1/models uç noktalarını sunar. Anahtarlar yalnızca Authorization: Bearer <key> olarak gönderilir. Python ve Node rehberleri kurulumun tamamını gösterir; LangChain da aynı şekilde çalışır.
Hesaba katmanız gereken iki fark var: DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce akıl yürütür ve akıl yürütme max_tokens sınırına dahildir. Ayrıca kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir. Gerisini geçiş kontrol listesi ele alıyor.
Sık yapılan hatalar
gpt-6-astra(OpenAI’nin modeller sayfasındaki amiral gemisi modeli, 2026-11-15 tarihinde kontrol edildi) gibi bir OpenAI model adını korumak. Sağlayıcının model kimliğini kullanın.- İstek başarılı oldu diye bir parametrenin çalıştığını varsaymak. Bazı sağlayıcılar bilinmeyen alanları sessizce yok sayar.