---
title: "Haystack OpenAIChatGenerator میں کسٹم api_base_url | BroadRouter"
description: "Haystack کے OpenAIChatGenerator کو api_base_url، BroadNet ماڈل ID اور Secret کلید سے BroadNet Inference پر سیٹ کریں: پائپ لائنز، ٹولز، اسٹریمنگ اور ایجنٹس کے لیے۔"
url: https://broadrouter.com/ur/guides/haystack-openai-compatible/
lang: ur
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/guides/haystack-openai-compatible/) (اپ ڈیٹ: 2026-11-16).

# BroadNet Inference کے ساتھ Haystack پائپ لائنز اور ایجنٹس چلائیں

اپ ڈیٹ 2026-11-16

haystack-ai انسٹال کریں اور OpenAIChatGenerator بنائیں جس میں api\_base\_url ہو https://inference.broadnet.ai/v1، api\_key ہو BROADNET\_API\_KEY سے پڑھا گیا Secret، اور model ہو broadnet/glm-5.3 جیسا BroadNet ID۔ اسے پائپ لائنز میں یا Haystack Agent میں استعمال کریں۔ max\_tokens کو generation\_kwargs میں دیں، اور جب جنریٹر کے پاس ٹولز ہوں تو GLM 5.3 یا Qwen3.8 27B استعمال کریں۔

Haystack، deepset کا RAG پائپ لائنز اور ایجنٹس کے لیے اوپن سورس فریم ورک ہے۔ اس کا `OpenAIChatGenerator` کسی بھی OpenAI-compatible سرور سے `api_base_url` کے ذریعے بات کرتا ہے۔ BroadNet Inference، `https://inference.broadnet.ai/v1` پر معیاری chat completions فراہم کرتا ہے، اس لیے یہی کمپوننٹ استعمال کریں۔ BroadRouter، BroadNet کی اپنی سائٹ ہے۔ یہ گائیڈ Haystack 3.5 کی دستاویزات کے مطابق ہے۔

## انسٹال کریں

```bash
pip install haystack-ai
export BROADNET_API_KEY='your-broadnet-key'
```

## کنیکٹ کریں

```python
from haystack.components.generators.chat import OpenAIChatGenerator
from haystack.dataclasses import ChatMessage
from haystack.utils import Secret

generator = OpenAIChatGenerator(
    api_base_url="https://inference.broadnet.ai/v1",
    api_key=Secret.from_env_var("BROADNET_API_KEY"),
    model="broadnet/glm-5.3",
    generation_kwargs={"max_tokens": 4000},
)

reply = generator.run([ChatMessage.from_user("Name three uses of a RAG pipeline.")])
print(reply["replies"][0].text)
```

-   **`model`** بغیر تبدیلی کے بھیجا جاتا ہے۔ BroadNet ID اس کے `broadnet/` پری فکس کے ساتھ استعمال کریں۔
-   **`api_key`** ایک Haystack `Secret` ہے۔ اس کے بغیر Haystack، `OPENAI_API_KEY` تلاش کرتا ہے۔
-   **`generation_kwargs`** chat completion درخواست میں بھیجے جاتے ہیں۔ `max_tokens` اتنا رکھیں کہ ریزننگ کے لیے جگہ بچے (نیچے دیکھیں)۔

## جواب اسٹریم کریں

```python
from haystack.components.generators.utils import print_streaming_chunk

generator = OpenAIChatGenerator(
    api_base_url="https://inference.broadnet.ai/v1",
    api_key=Secret.from_env_var("BROADNET_API_KEY"),
    model="broadnet/glm-5.3",
    streaming_callback=print_streaming_chunk,
)
```

تب Haystack، `stream: true` کے ساتھ `stream_options.include_usage` بھیجتا ہے، اس لیے ٹوکنز کی گنتی آخری چنک میں آتی ہے۔ BroadNet کی دستاویزات بھی یہی آپشن بیان کرتی ہیں۔

## ٹولز اور ایجنٹس

```python
from haystack.components.agents import Agent
from haystack.tools import Tool

def get_weather(city: str) -> str:
    return f"21C in {city}"

weather = Tool(
    name="get_weather",
    description="Get the weather for a city",
    parameters={"type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"]},
    function=get_weather,
)

chat = OpenAIChatGenerator(
    api_base_url="https://inference.broadnet.ai/v1",
    api_key=Secret.from_env_var("BROADNET_API_KEY"),
    model="broadnet/glm-5.3",
    tools=[weather],
)
agent = Agent(chat_generator=chat, tools=[weather])
result = agent.run(messages=[ChatMessage.from_user("What's the weather in Riyadh?")])
print(result["messages"][-1].text)
```

BroadNet کی دستاویزات ٹولز اور اسٹرکچرڈ آؤٹ پٹ صرف `broadnet/glm-5.3` اور `broadnet/qwen3.8-27b` کے لیے درج کرتی ہیں۔ جب تک آپ نے اسٹرکٹ اسکیما ٹیسٹ نہ کیے ہوں، `tools_strict` کو اس کے ڈیفالٹ `False` پر رہنے دیں۔

## کون سا ماڈل چنیں

| پائپ لائن | ماڈل |
| --- | --- |
| ایجنٹس اور ٹول کالز | `broadnet/glm-5.3` |
| اسکین شدہ صفحات یا عربی متن پر RAG، ٹولز کے ساتھ | `broadnet/qwen3.8-27b` |
| مقررہ قیمت والے پلان پر لمبے کانٹیکسٹ والے جوابات | `broadnet/deepseek-v4.1-flash` |
| مفت ابتدائی کریڈٹ پر آزمانا | `broadnet/gemma-4-26b-a4b` (32,768 ٹوکن کا کانٹیکسٹ) |

ریٹریو کیا گیا کانٹیکسٹ بڑا ہو سکتا ہے۔ GLM 5.3 اور DeepSeek V4.1 Flash، 1,048,576 ٹوکن کا کانٹیکسٹ لیتے ہیں؛ Gemma کا 32,768 جلد بھر جاتا ہے۔ [ہر ماڈل کی قیمتیں](https://broadrouter.com/ur/pricing/)۔

## ہم نے اسے کیسے ٹیسٹ کیا

2026-11-15 کو ہم نے ایک صاف ورچوئل انوائرنمنٹ میں haystack-ai 3.5.0 انسٹال کیا اور اوپر کی سادہ، اسٹریمنگ، ٹول اور Agent مثالیں ایک لوکل موک سرور پر چلائیں جو BroadNet کی chat-completions ساخت میں جواب دیتا ہے۔ ہم نے لاگ کی گئی درخواستیں پڑھیں۔ سب `/v1/chat/completions` پر گئیں، ماڈل ID بغیر تبدیلی کے، Bearer کلید، `generation_kwargs` سے آیا `max_tokens` اور، ٹولز کی صورت میں، فنکشن اسکیما کے ساتھ۔ Haystack، `n: 1` بھی بھیجتا ہے۔ ہمارے پاس BroadNet کلید نہیں تھی، اس لیے ہم نے حقیقی ماڈل آؤٹ پٹ ٹیسٹ نہیں کیا۔

## مسائل کا حل

-   **401۔** کلید غلط ہے، اس کی میعاد ختم ہو گئی ہے یا الاؤنس ختم ہو گیا ہے، یا پائپ لائن چلانے والے پراسیس میں `BROADNET_API_KEY` سیٹ نہیں ہے۔
-   **404۔** `api_base_url` کے آخر میں `/v1` ہونا چاہیے، اور ماڈل ID، BroadNet کے ID سے بالکل ملنا چاہیے۔ پیڈ ماڈلز کے لیے ٹاپ اپ چاہیے؛ $5 کریڈٹ پر صرف `broadnet/gemma-4-26b-a4b` اور دو Transcribe ماڈلز چلتے ہیں۔
-   **خالی جوابات۔** DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B جواب دینے سے پہلے ریزننگ کرتے ہیں، اور ریزننگ `max_tokens` میں گنی جاتی ہے۔ اسے بڑھائیں۔ [جوابات خالی کیوں آتے ہیں](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)۔
-   **بیچ انڈیکسنگ یا ایویلیوایشن میں 429۔** استعمال کے مطابق ادائیگی والی کلید فی منٹ 30 درخواستوں اور بیک وقت 4 جاری درخواستوں کی اجازت دیتی ہے۔ جنریٹر کا `max_retries` استعمال کریں اور [ایررز اور دوبارہ کوشش](https://broadrouter.com/ur/guides/errors-and-retries/) دیکھیں۔

## اس گائیڈ کی اصطلاحات

[استعمال کے مطابق ادائیگی (pay-as-you-go)](https://broadrouter.com/ur/glossary/pay-as-you-go/)

استعمال کے مطابق ادائیگی (pay-as-you-go) قیمت طے کرنے کا ایک ماڈل ہے جس میں آپ صرف اتنا دیتے ہیں جتنا استعمال کرتے ہیں، ٹوکن، درخواستوں یا آڈیو منٹ جیسی اکائیوں میں ناپ کر، بغیر سبسکرپشن یا کم از کم وابستگی کے۔ زیادہ تر LLM API اسی طرح بل بناتے ہیں، پری پیڈ بیلنس یا وقتاً فوقتاً بننے والی انوائس سے۔

[ٹوکن (token)](https://broadrouter.com/ur/glossary/token/)

ٹوکن متن کی وہ اکائی ہے جسے لینگویج ماڈل پڑھتا اور لکھتا ہے: کوئی لفظ، لفظ کا حصہ، رموزِ اوقاف کی کوئی علامت یا بائٹس کا سلسلہ، جو ماڈل کا ٹوکنائزر بناتا ہے۔ LLM API استعمال کو ٹوکنز میں گنتے ہیں، انہی میں حدیں لگاتے ہیں اور عموماً بل بھی بناتے ہیں۔

[کنکرنسی (concurrency)](https://broadrouter.com/ur/glossary/concurrency/)

کنکرنسی، کسی کلائنٹ کی بیک وقت چل رہی (in-flight) درخواستوں کی تعداد ہے۔ LLM APIs اکثر اس کی حد ہر کلید یا پلان پر، فی منٹ درخواستوں سے الگ رکھتے ہیں، کیونکہ ہر کھلی درخواست جواب مکمل ہونے تک GPU کی گنجائش گھیرے رکھتی ہے۔

[RAG (retrieval-augmented generation)](https://broadrouter.com/ur/glossary/rag/)

RAG (retrieval-augmented generation) ایک طریقہ ہے جس میں ایپلیکیشن پہلے کسی بیرونی اسٹور، جیسے سرچ یا ویکٹر انڈیکس، سے سوال سے متعلقہ حصے نکالتی ہے، اور پھر انہیں پرامپٹ میں جوڑتی ہے، تاکہ لینگویج ماڈل صرف اپنی یادداشت کے بجائے اس متن سے جواب دے سکے۔

[اسٹرکچرڈ آؤٹ پٹ (structured output)](https://broadrouter.com/ur/glossary/structured-output/)

اسٹرکچرڈ آؤٹ پٹ LLM API کا ایک فیچر ہے جو ماڈل کے جواب کو ڈویلپر کے طے کردہ فارمیٹ، عموماً JSON Schema، تک محدود کرتا ہے، تاکہ کوڈ اسے قابلِ اعتماد طریقے سے پارس کر سکے۔ یہ JSON mode سے زیادہ سخت ہے، جو درست JSON کی ضمانت دیتا ہے، لیکن کسی خاص ساخت کی نہیں۔

[اسٹریمنگ (streaming)](https://broadrouter.com/ur/glossary/streaming/)

اسٹریمنگ، لینگویج ماڈل کے جواب کو آخر میں ایک ساتھ لوٹانے کے بجائے، بنتے وقت ہی چھوٹے چھوٹے ٹکڑوں (chunks) میں لوٹانے کا طریقہ ہے۔ OpenAI-compatible APIs، درخواست میں stream کو true سیٹ کرنے پر server-sent events کے ذریعے اسٹریم کرتے ہیں۔

[پری پیڈ کریڈٹ (prepaid credit)](https://broadrouter.com/ur/glossary/prepaid-credit/)

پری پیڈ کریڈٹ وہ رقم ہے جو استعمال سے پہلے API اکاؤنٹ میں ڈالی جاتی ہے۔ ہر درخواست کی لاگت بیلنس سے کٹتی ہے، اور بیلنس ختم ہونے پر میٹر والی درخواستیں تب تک رک جاتی ہیں جب تک آپ ٹاپ اپ نہ کریں۔ اس سے خرچ اتنا ہی رہتا ہے جتنا آپ نے جمع کیا ہے۔

[ریٹ لمٹ (rate limit)](https://broadrouter.com/ur/glossary/rate-limit/)

ریٹ لمٹ وہ حد ہے جو کوئی API طے کرتا ہے کہ ایک کلائنٹ کسی مدت میں اسے کتنا استعمال کر سکتا ہے، جیسے فی منٹ درخواستیں یا فی منٹ ٹوکن۔ حد سے زیادہ درخواستیں رد کر دی جاتی ہیں، عموماً HTTP 429 Too Many Requests کے ساتھ، جب تک استعمال دوبارہ حد سے نیچے نہ آ جائے۔

## عام سوالات

### Haystack کا کون سا پیرامیٹر BroadNet کا URL سیٹ کرتا ہے؟

OpenAIChatGenerator کا api\_base\_url۔ Haystack کی دستاویزات اسے کسٹم ڈیپلائمنٹس تک پہنچنے کا طریقہ بتاتی ہیں۔ اسے https://inference.broadnet.ai/v1 پر سیٹ کریں۔

### کیا BroadNet کے ساتھ OpenAIResponsesChatGenerator استعمال کروں؟

نہیں۔ وہ کمپوننٹ OpenAI کا Responses API کال کرتا ہے، جسے BroadNet درج نہیں کرتا۔ OpenAIChatGenerator استعمال کریں، جو chat completions کال کرتا ہے۔

### Haystack، OPENAI\_API\_KEY نہ ملنے کی ایرر کیوں دیتا ہے؟

api\_key کا ڈیفالٹ Secret.from\_env\_var("OPENAI\_API\_KEY") ہے۔ api\_key=Secret.from\_env\_var("BROADNET\_API\_KEY") پاس کریں تاکہ Haystack اس کی جگہ آپ کی BroadNet کلید پڑھے۔

### کیا Haystack Agent، BroadNet پر ٹولز کال کر سکتا ہے؟

ہاں، ایسے ماڈل کے ساتھ جسے BroadNet ٹولز کے ساتھ درج کرتا ہے: GLM 5.3 یا Qwen3.8 27B۔ ہمارے موک سرور ٹیسٹ میں Agent نے chat completions پر ٹول اسکیما بھیجا اور ٹول کال واپس حاصل کی۔

## متعلقہ گائیڈز

-   [BroadNet Inference کے ساتھ OpenAI Python SDK استعمال کریں](https://broadrouter.com/ur/guides/openai-python-sdk/)
-   [OpenAILike کے ذریعے BroadNet Inference کے ساتھ LlamaIndex](https://broadrouter.com/ur/guides/llamaindex-openailike/)
-   [ریزننگ ماڈل خالی جواب کیوں لوٹاتا ہے](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)
-   [BroadNet Inference کے ایرر کوڈز اور دوبارہ کوشش کب کریں](https://broadrouter.com/ur/guides/errors-and-retries/)
-   [BroadNet Inference کے ساتھ کام کرنے والے تمام ٹولز (انگریزی میں)](https://broadrouter.com/integrations/): SDKs، کوڈنگ ایجنٹس، چیٹ انٹرفیس اور آٹومیشن ٹولز، ہر ایک کی درست سیٹنگز کے ساتھ

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-guides-haystack-openai-compatible&utm_content=page-cta) ·

**ذرائع**

-   [Haystack دستاویزات 3.5، OpenAIChatGenerator (2026-11-15 کو جانچا گیا)](https://docs.haystack.deepset.ai/docs/openaichatgenerator)
-   [PyPI، haystack-ai 3.5.0، Python 3.11+ (2026-11-15 کو جانچا گیا)](https://pypi.org/project/haystack-ai/)
-   [BroadNet Inference API ریفرنس (2026-11-15 کو جانچا گیا) (انگریزی میں)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-guides-haystack-openai-compatible&utm_content=sources)
