---
title: "Haystack OpenAIChatGenerator ve özel api_base_url | BroadRouter"
description: "Haystack'in OpenAIChatGenerator bileşenini api_base_url, BroadNet model kimliği ve Secret anahtarla BroadNet Inference'a yönlendirin: pipeline, araç, akış, ajan."
url: https://broadrouter.com/tr/guides/haystack-openai-compatible/
lang: tr
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

İngilizceden yapay zekâ desteğiyle çevrilmiştir. [İngilizce aslını okuyun](https://broadrouter.com/guides/haystack-openai-compatible/) (güncelleme: 2026-11-16).

# Haystack pipeline'larını ve ajanlarını BroadNet Inference ile kullanın

Güncellendi 2026-11-16

haystack-ai paketini kurun ve OpenAIChatGenerator'ı api\_base\_url değeri https://inference.broadnet.ai/v1, api\_key değeri BROADNET\_API\_KEY'den okunan bir Secret ve model değeri broadnet/glm-5.3 gibi bir BroadNet kimliği olacak şekilde oluşturun. Bunu pipeline'larda veya bir Haystack Agent'ta kullanın. max\_tokens'ı generation\_kwargs içinde verin; üreticiye araç bağlıysa GLM 5.3 veya Qwen3.8 27B kullanın.

Haystack, deepset’in RAG pipeline’ları ve ajanlar için geliştirdiği açık kaynaklı bir çatıdır. `OpenAIChatGenerator` bileşeni, `api_base_url` üzerinden OpenAI uyumlu her sunucuyla konuşur. BroadNet Inference standart chat completions isteklerini `https://inference.broadnet.ai/v1` adresinde sunar; kullanılacak bileşen budur. BroadRouter, BroadNet’in kendi sitesidir; bu rehber Haystack 3.5 belgelerini izler.

## Kurulum

```bash
pip install haystack-ai
export BROADNET_API_KEY='your-broadnet-key'
```

## Bağlanma

```python
from haystack.components.generators.chat import OpenAIChatGenerator
from haystack.dataclasses import ChatMessage
from haystack.utils import Secret

generator = OpenAIChatGenerator(
    api_base_url="https://inference.broadnet.ai/v1",
    api_key=Secret.from_env_var("BROADNET_API_KEY"),
    model="broadnet/glm-5.3",
    generation_kwargs={"max_tokens": 4000},
)

reply = generator.run([ChatMessage.from_user("Name three uses of a RAG pipeline.")])
print(reply["replies"][0].text)
```

-   **`model`** değiştirilmeden gönderilir. BroadNet kimliğini `broadnet/` önekiyle kullanın.
-   **`api_key`** bir Haystack `Secret` nesnesidir. Verilmezse Haystack `OPENAI_API_KEY` değişkenini arar.
-   **`generation_kwargs`** chat completion isteğine aktarılır. `max_tokens` değerini akıl yürütmeye yetecek kadar yüksek tutun (aşağıya bakın).

## Yanıtı akışla alın

```python
from haystack.components.generators.utils import print_streaming_chunk

generator = OpenAIChatGenerator(
    api_base_url="https://inference.broadnet.ai/v1",
    api_key=Secret.from_env_var("BROADNET_API_KEY"),
    model="broadnet/glm-5.3",
    streaming_callback=print_streaming_chunk,
)
```

Haystack bu durumda `stream: true` ile birlikte `stream_options.include_usage` gönderir; böylece token sayıları son parçada gelir. BroadNet’in belgeleri aynı seçeneği tanımlar.

## Araçlar ve ajanlar

```python
from haystack.components.agents import Agent
from haystack.tools import Tool

def get_weather(city: str) -> str:
    return f"21C in {city}"

weather = Tool(
    name="get_weather",
    description="Get the weather for a city",
    parameters={"type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"]},
    function=get_weather,
)

chat = OpenAIChatGenerator(
    api_base_url="https://inference.broadnet.ai/v1",
    api_key=Secret.from_env_var("BROADNET_API_KEY"),
    model="broadnet/glm-5.3",
    tools=[weather],
)
agent = Agent(chat_generator=chat, tools=[weather])
result = agent.run(messages=[ChatMessage.from_user("What's the weather in Riyadh?")])
print(result["messages"][-1].text)
```

BroadNet’in belgeleri araçları ve yapılandırılmış çıktıyı yalnızca `broadnet/glm-5.3` ve `broadnet/qwen3.8-27b` için listeler. Katı şemaları test etmediyseniz `tools_strict` değerini varsayılan `False` olarak bırakın.

## Hangi modeli seçmeli

| Pipeline | Model |
| --- | --- |
| Ajanlar ve araç çağrıları | `broadnet/glm-5.3` |
| Taranmış sayfalar veya Arapça metin üzerinde araçlı RAG | `broadnet/qwen3.8-27b` |
| Sabit fiyatlı planda uzun bağlamla yanıt üretme | `broadnet/deepseek-v4.1-flash` |
| Ücretsiz başlangıç kredisiyle denemek | `broadnet/gemma-4-26b-a4b` (32.768 token bağlam) |

Erişimle getirilen bağlam büyük olabilir. GLM 5.3 ve DeepSeek V4.1 Flash 1.048.576 token bağlam alır; Gemma’nın 32.768 token’ı çabuk dolar. [Tüm modellerin fiyatları](https://broadrouter.com/tr/pricing/).

## Bunu nasıl test ettik

2026-11-15’te haystack-ai 3.5.0’ı temiz bir sanal ortama kurduk ve yukarıdaki düz, akışlı, araçlı ve Agent örneklerini BroadNet’in chat completions yapısını konuşan yerel bir mock sunucuya karşı çalıştırdık. Kaydedilen istekleri okuduk. Hepsi `/v1/chat/completions` adresine gitti: model kimliği değişmeden, bir Bearer anahtarı, `generation_kwargs` içinden gelen `max_tokens` ve araçlar için fonksiyon şeması ile. Haystack ayrıca `n: 1` de gönderiyor. Elimizde bir BroadNet anahtarı yoktu; bu yüzden gerçek model çıktısını test etmedik.

## Sorun giderme

-   **401.** Anahtar yanlış, süresi dolmuş veya kullanım hakkı tükenmiş ya da pipeline’ı çalıştıran süreçte `BROADNET_API_KEY` tanımlı değil.
-   **404.** `api_base_url` `/v1` ile bitmeli ve model kimliği BroadNet’inkiyle birebir aynı olmalıdır. Ücretli modeller bakiye yüklemesi gerektirir; $5 kredi yalnızca `broadnet/gemma-4-26b-a4b` modelini kapsar.
-   **Boş yanıtlar.** DeepSeek V4.1 Flash, GLM 5.3 ve Qwen3.8 27B yanıt vermeden önce akıl yürütür ve akıl yürütme `max_tokens` sınırına dahildir. Değeri artırın. [Yanıtlar neden boş geliyor](https://broadrouter.com/tr/guides/reasoning-tokens-empty-response/).
-   **Toplu indeksleme veya değerlendirmede 429.** Kullandıkça öde anahtarı dakikada 30 isteğe ve işlemde aynı anda 4 isteğe izin verir. Üreticinin `max_retries` parametresini kullanın ve [hatalar ve yeniden denemeler](https://broadrouter.com/tr/guides/errors-and-retries/) rehberine bakın.

## Bu rehberdeki terimler

[Token](https://broadrouter.com/tr/glossary/token/)

Token, bir dil modelinin okuduğu ve yazdığı metin birimidir: modelin tokenizer'ının ürettiği bir kelime, kelime parçası, noktalama işareti veya bayt dizisi. LLM API'leri kullanımı token cinsinden sayar, sınırlar ve genellikle faturalandırır.

[Kullandıkça öde (pay-as-you-go)](https://broadrouter.com/tr/glossary/pay-as-you-go/)

Kullandıkça öde, abonelik veya asgari taahhüt olmadan yalnızca kullandığınız kadar ödediğiniz, token, istek veya ses dakikası gibi birimler üzerinden ölçülen bir fiyatlandırma modelidir. LLM API'lerinin çoğu bu şekilde, ön ödemeli bir bakiyeden veya dönemsel faturayla ücretlendirir.

[Chat Completions API](https://broadrouter.com/tr/glossary/chat-completions-api/)

Chat Completions API, OpenAI'nin bir model adı ile rollerle etiketlenmiş mesaj listesini alıp modelin sonraki mesajını döndüren HTTP uç noktasıdır: POST /v1/chat/completions. İstek ve yanıt yapısı, OpenAI uyumlu sağlayıcıların ve SDK'ların yeniden kullandığı ortak format hâline geldi.

[Eşzamanlılık (concurrency)](https://broadrouter.com/tr/glossary/concurrency/)

Eşzamanlılık (concurrency), bir istemcinin aynı anda işlemde olan istek sayısıdır. LLM API'leri bunu genellikle dakikadaki istek sayısından ayrı olarak anahtar veya plan başına sınırlar, çünkü açık her istek yanıtı bitene kadar GPU kapasitesi tutar.

[Hız sınırı (rate limit)](https://broadrouter.com/tr/glossary/rate-limit/)

Hız sınırı (rate limit), bir API'nin bir istemcinin belirli bir zaman aralığındaki kullanımına koyduğu üst sınırdır; örneğin dakika başına istek veya dakika başına token. Sınırı aşan istekler, kullanım tekrar sınırın altına inene kadar genellikle HTTP 429 Too Many Requests ile reddedilir.

[RAG (erişimle artırılmış üretim)](https://broadrouter.com/tr/glossary/rag/)

RAG (retrieval-augmented generation, erişimle artırılmış üretim), bir uygulamanın önce bir soruyla ilgili pasajları arama veya vektör dizini gibi harici bir depodan getirdiği, ardından bunları isteme eklediği bir yöntemdir; böylece dil modeli yalnızca belleğine değil, bu metne dayanarak yanıt verebilir.

## Sık sorulan sorular

### Haystack'te BroadNet URL'sini hangi parametre belirler?

OpenAIChatGenerator'daki api\_base\_url. Haystack'in belgeleri bunu özel dağıtımlara ulaşmanın yolu olarak tanımlar. Değerini https://inference.broadnet.ai/v1 yapın.

### BroadNet ile OpenAIResponsesChatGenerator kullanmalı mıyım?

Hayır. Bu bileşen OpenAI'ın Responses API'sini çağırır ve BroadNet bu API'yi listelemez. Chat completions çağıran OpenAIChatGenerator'ı kullanın.

### Haystack neden eksik OPENAI\_API\_KEY hatası veriyor?

api\_key'in varsayılan değeri Secret.from\_env\_var("OPENAI\_API\_KEY") şeklindedir. Haystack'in BroadNet anahtarınızı okuması için api\_key=Secret.from\_env\_var("BROADNET\_API\_KEY") verin.

### Bir Haystack Agent BroadNet üzerinde araç çağırabilir mi?

Evet, BroadNet'in araç desteğiyle listelediği bir modelle: GLM 5.3 veya Qwen3.8 27B. Mock sunucu testimizde Agent araç şemasını chat completions üzerinden gönderdi ve araç çağrısını geri aldı.

## İlgili rehberler

-   [OpenAI Python SDK'yı BroadNet Inference ile kullanın](https://broadrouter.com/tr/guides/openai-python-sdk/)
-   [LlamaIndex'i OpenAILike ile BroadNet Inference'ta kullanın](https://broadrouter.com/tr/guides/llamaindex-openailike/)
-   [Akıl yürüten model neden boş yanıt döndürür?](https://broadrouter.com/tr/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference hata kodları ve ne zaman yeniden denenmeli](https://broadrouter.com/tr/guides/errors-and-retries/)
-   [BroadNet Inference ile çalışan tüm araçlar (İngilizce)](https://broadrouter.com/integrations/): SDK'lar, kodlama ajanları, sohbet arayüzleri ve otomasyon araçları, her biri için tam ayarlarıyla

Gerçek iş yükünüzle deneyin. Yeni hesaplar şunlar için US$5 kredi ile başlar: Gemma ve transkripsiyon. Bakiye yüklemesi gerekenler: DeepSeek, GLM ve Qwen3.8.

[Başlayın](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-guides-haystack-openai-compatible&utm_content=page-cta) ·

**Kaynaklar**

-   [Haystack 3.5 belgeleri, OpenAIChatGenerator (2026-11-15 tarihinde kontrol edildi)](https://docs.haystack.deepset.ai/docs/openaichatgenerator)
-   [PyPI, haystack-ai 3.5.0, Python 3.11+ (2026-11-15 tarihinde kontrol edildi)](https://pypi.org/project/haystack-ai/)
-   [BroadNet Inference API referansı (2026-11-15 tarihinde kontrol edildi) (İngilizce)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=tr-guides-haystack-openai-compatible&utm_content=sources)
