BroadRouter
Başlayın

OpenAI uyumlu API

Güncellendi

OpenAI uyumlu API, POST /v1/chat/completions gibi OpenAI API'siyle aynı istek ve yanıt biçimlerini kabul eden bir HTTP API'sidir; böylece OpenAI SDK'ları ve araçları yalnızca base URL, API anahtarı ve model adı değiştirilerek onu kullanabilir.

Diğer adları: OpenAI uyumlu API, OpenAI uyumluluğu, OpenAI uyumlu uç nokta, OpenAI API alternatifi, OpenAI-compatible API, OpenAI API compatible, OpenAI-style API, OpenAI drop-in replacement

OpenAI’nin API biçimi, LLM araçlarının ortak dili hâline geldi. Artık birçok sağlayıcı bu biçimi kabul ediyor; böylece tek bir istemci kütüphanesi birçok arka uçla konuşabiliyor.

Nasıl çalışır

Uyumlu bir API, OpenAI API’sinin istemcilerin dayandığı kısımlarını kopyalar:

  • /v1/chat/completions ve /v1/audio/transcriptions gibi aynı yollar;
  • aynı JSON yapıları: girdide bir messages dizisi, çıktıda choices[0].message.content ve token sayılarını içeren bir usage bloğu;
  • Authorization: Bearer <key> olarak gönderilen bir API anahtarı;
  • stream true olduğunda server-sent events olarak akış.

Geçiş bir yapılandırma değişikliğidir. Resmi Python SDK ile:

from openai import OpenAI
import os

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])
reply = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Say hello in Arabic."}],
)
print(reply.choices[0].message.content)

Bir OpenAI örneğine göre yalnızca üç değer değişti: base URL, anahtar ve model kimliği.

Neden önemli

Uyumluluk geçiş maliyetini düşürür. OpenAI biçimini konuşan SDK’lar, ajan çatıları, IDE eklentileri ve yönlendiriciler yeni kod yazmadan çalışır. İkinci bir sağlayıcıyı dakikalar içinde test edebilir ve taşınma seçeneğini elinizde tutabilirsiniz.

Ancak uyumlu, aynı demek değildir. Örneğin Anthropic’in kendi uyumluluk katmanı araçlardaki strict alanını yok sayar ve prompt_tokens_details alanını boş bırakır. Tipik farklar şunlardır:

  • yok sayılan veya reddedilen parametreler;
  • akıl yürütme token’larının max_tokens sınırına nasıl sayıldığı;
  • kullanımın akışın sonunda raporlanıp raporlanmadığı;
  • hız sınırları ve hata kodları.

BroadNet Inference’ta

BroadNet Inference, https://inference.broadnet.ai/v1 adresinde POST /v1/chat/completions, POST /v1/audio/transcriptions ve GET /v1/models uç noktalarını sunar. Anahtarlar yalnızca Authorization: Bearer <key> olarak gönderilir. Python ve Node rehberleri kurulumun tamamını gösterir; LangChain da aynı şekilde çalışır.

Hesaba katmanız gereken iki fark var: DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce akıl yürütür ve akıl yürütme max_tokens sınırına dahildir. Ayrıca kullandıkça öde anahtarı dakikada 30 isteğe ve aynı anda 4 isteğe izin verir. Gerisini geçiş kontrol listesi ele alıyor.

Sık yapılan hatalar

  • gpt-6-astra (OpenAI’nin modeller sayfasındaki amiral gemisi modeli, 2026-11-15 tarihinde kontrol edildi) gibi bir OpenAI model adını korumak. Sağlayıcının model kimliğini kullanın.
  • İstek başarılı oldu diye bir parametrenin çalıştığını varsaymak. Bazı sağlayıcılar bilinmeyen alanları sessizce yok sayar.

Sık sorulan sorular

OpenAI uyumlu demek her OpenAI özelliğinin çalıştığı anlamına mı gelir?

Hayır. Temel istek ve yanıt yapılarının eşleştiği anlamına gelir. Tek tek alanlar yok sayılabilir veya reddedilebilir. Örneğin Anthropic'in uyumluluk katmanı, yok saydığı alanları ve 400 hatası döndürenleri belgeliyor. Bir parametreye güvenmeden önce sağlayıcının listesini okuyun.

Farklı bir SDK gerekir mi?

Hayır. Resmi OpenAI SDK'ları özel bir base URL kabul eder. Python'da base_url, Node'da baseURL verin ya da OPENAI_BASE_URL ortam değişkenini ayarlayın.

BroadNet Inference hangi uç noktaları destekliyor?

Sohbet için POST /v1/chat/completions, konuşmadan metne için POST /v1/audio/transcriptions. GET /v1/models da var; ancak BroadNet'in belgeleri onu dış izleme araçları için herkese açık katalog meta verisi olarak tanımlıyor, bu yüzden isteklerdeki model kimliklerini API referansından alın.

Markdown olarak okuChatGPT asistanına sorClaude asistanına sorPerplexity asistanına sor