---
title: "SSE پر LLM ریسپانس اسٹریمنگ: usage اور دوبارہ کوشش | BroadRouter"
description: "BroadNet Inference پر اسٹریمنگ کیسے کام کرتی ہے: Server-Sent Events، [DONE] مارکر، آخری چنک میں ٹوکن usage، اور اسٹریم درمیان میں ختم ہو جائے تو کیا کریں۔"
url: https://broadrouter.com/ur/guides/streaming-chat-completions/
lang: ur
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/guides/streaming-chat-completions/) (اپ ڈیٹ: 2026-11-15).

# chat completions اسٹریم کریں اور ٹوٹے کنکشن سنبھالیں

اپ ڈیٹ 2026-11-15

/v1/chat/completions پر stream کو true کریں اور Server-Sent Events تب تک پڑھیں جب تک بالکل data: \[DONE\] مارکر نہ آ جائے۔ آخری چنک میں ٹوکن گنتیاں پانے کے لیے stream\_options میں include\_usage شامل کریں۔ اگر کنکشن \[DONE\] سے پہلے ٹوٹ جائے تو جواب کو نامکمل سمجھیں اور X-Request-ID لاگ کریں۔

اسٹریمنگ سے کوئی ایجنٹ یا چیٹ انٹرفیس جواب کو بنتے بنتے دکھا سکتا ہے۔ BroadNet Inference، chat-completions اسٹریمنگ کی معیاری ساخت استعمال کرتا ہے، اس لیے [OpenAI Python SDK](https://broadrouter.com/ur/guides/openai-python-sdk/) اور [OpenAI Node SDK](https://broadrouter.com/ur/guides/openai-node-sdk/) پارسنگ آپ کے لیے کر دیتے ہیں۔

## curl کے ساتھ

```bash
curl -N -D stream-headers.txt https://inference.broadnet.ai/v1/chat/completions \
  -H "Authorization: Bearer $BROADNET_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"broadnet/gemma-4-26b-a4b","stream":true,"stream_options":{"include_usage":true},"messages":[{"role":"user","content":"Count from one to three."}]}'
```

`-N` curl کی بفرنگ بند کرتا ہے، اور `-D` ہیڈرز محفوظ کرتا ہے، جن میں `X-Request-ID` بھی شامل ہے۔

## اسٹریم کیسی دکھتی ہے؟

ریسپانس ایک [Server-Sent Events](https://broadrouter.com/ur/glossary/sse/) اسٹریم ہے۔ WHATWG HTML اسٹینڈرڈ کے مطابق ہر ایونٹ ایک یا زیادہ `data:` لائنوں اور اس کے بعد ایک خالی لائن سے بنتا ہے، اور کولن سے شروع ہونے والی لائن ایک تبصرہ ہے جسے آپ نظر انداز کر سکتے ہیں۔ ہر `data:` لائن میں ایک JSON چنک ہوتا ہے، اور متن `choices[0].delta.content` میں آتا ہے۔

## اصول

1.  بالکل `data: [DONE]` لائن آنے تک ایونٹس پڑھیں، پھر ریڈر بند کریں۔
2.  `stream_options: {"include_usage": true}` کے ساتھ `[DONE]` سے عین پہلے ایک اضافی چنک آتا ہے۔ اس میں پوری درخواست کا `usage` اور ایک خالی `choices` فہرست ہوتی ہے، اس لیے انڈیکس کرنے سے پہلے `choices` جانچیں۔
3.  جب ماڈل انہیں رپورٹ کرتا ہے تو اس usage میں `completion_tokens_details.reasoning_tokens` (DeepSeek V4.1 Flash، GLM 5.3 اور Qwen3.8 27B پہلے ریزننگ کرتے ہیں) اور `prompt_tokens_details.cached_tokens` شامل ہوتے ہیں۔ کیش شدہ ٹوکنز کا بل کیش شدہ ان پٹ کی کم قیمت پر بنتا ہے۔

## Python SDK کے ساتھ

نیچے کے کوڈ کے آخر میں اگر `usage` کی قدر `None` ہو تو اس کا مطلب ہے کہ اسٹریم usage والے چنک سے پہلے ختم ہو گئی۔

```python
import os
from openai import OpenAI

client = OpenAI(base_url="https://inference.broadnet.ai/v1", api_key=os.environ["BROADNET_API_KEY"])

stream = client.chat.completions.create(
    model="broadnet/gemma-4-26b-a4b",
    messages=[{"role": "user", "content": "Count from one to three."}],
    stream=True,
    stream_options={"include_usage": True},
)
usage = None
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
    if chunk.usage:
        usage = chunk.usage
print()
print(usage)  # None means the stream ended before the usage chunk
```

SDK آپ کے لیے `[DONE]` تک پڑھتا ہے۔ [OpenAI Node SDK گائیڈ](https://broadrouter.com/ur/guides/openai-node-sdk/) میں یہی لوپ JavaScript میں ہے۔

## جب اسٹریم درمیان میں ختم ہو جائے

اگر کنکشن `[DONE]` سے پہلے بند ہو جائے تو جواب نامکمل ہے۔ BroadNet کی ہدایت:

-   `X-Request-ID` درج کریں؛
-   طے کریں کہ آپ کی ایپلیکیشن محفوظ طریقے سے ایک **نئی** درخواست بھیج سکتی ہے یا نہیں۔ دوبارہ کوشش ایک نیا انفرنس ہے، اور استعمال کے مطابق ادائیگی میں اس کا بل دوبارہ بنتا ہے۔

[لامحدود پلان](https://broadrouter.com/ur/guides/unlimited-llm-api-sessions/) پر چلنے والے ایجنٹس کے لیے دوبارہ کوشش کا کوئی اضافی خرچ نہیں، لیکن چلتے وقت وہ سیشن کو مصروف رکھتی ہیں۔

BroadNet کی دستاویزات کہتی ہیں کہ پروڈکشن میں اسٹریمنگ پر انحصار کرنے سے پہلے ہر ماڈل کی ریلیز ویریفکیشن اب بھی ضروری ہے، اس لیے جس ماڈل کے ساتھ آپ شپ کر رہے ہیں، اس پر اسے ٹیسٹ کریں۔

## مسائل کا حل

-   **سب کچھ آخر میں ایک ساتھ پرنٹ ہوتا ہے۔** curl کو `-N` چاہیے۔ اگر درمیان میں آپ کی اپنی پراکسی ہے تو `text/event-stream` کے لیے ریسپانس بفرنگ بند کریں۔
-   **آخری چنک پر `IndexError` یا `undefined`۔** usage والے چنک میں `choices` کی فہرست خالی ہوتی ہے۔ `[0]` پڑھنے سے پہلے `chunk.choices` جانچیں۔
-   **usage بالکل نہیں آتا۔** آپ نے `stream_options` نہیں بھیجا، یا اسٹریم آخری چنک سے پہلے ٹوٹ گئی۔
-   **اسٹریم تھوڑے سے متن کے ساتھ `finish_reason` `length` پر رک جاتی ہے۔** کسی ریزننگ ماڈل نے `max_tokens` ریزننگ پر خرچ کر دیے۔ دیکھیں [ریزننگ ماڈلز خالی جواب کیوں دیتے ہیں](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)۔
-   **متوازی اسٹریمنگ کے دوران 429۔** ہر کھلی اسٹریم ایک جاری درخواست شمار ہوتی ہے؛ استعمال کے مطابق ادائیگی والی کلید 4 کی اجازت دیتی ہے۔ دیکھیں [BroadNet کے ایرر کوڈز اور دوبارہ کوشش](https://broadrouter.com/ur/guides/errors-and-retries/)۔

## اس گائیڈ کی اصطلاحات

[اسٹریمنگ (streaming)](https://broadrouter.com/ur/glossary/streaming/)

اسٹریمنگ، لینگویج ماڈل کے جواب کو آخر میں ایک ساتھ لوٹانے کے بجائے، بنتے وقت ہی چھوٹے چھوٹے ٹکڑوں (chunks) میں لوٹانے کا طریقہ ہے۔ OpenAI-compatible APIs، درخواست میں stream کو true سیٹ کرنے پر server-sent events کے ذریعے اسٹریم کرتے ہیں۔

[استعمال کے مطابق ادائیگی (pay-as-you-go)](https://broadrouter.com/ur/glossary/pay-as-you-go/)

استعمال کے مطابق ادائیگی (pay-as-you-go) قیمت طے کرنے کا ایک ماڈل ہے جس میں آپ صرف اتنا دیتے ہیں جتنا استعمال کرتے ہیں، ٹوکن، درخواستوں یا آڈیو منٹ جیسی اکائیوں میں ناپ کر، بغیر سبسکرپشن یا کم از کم وابستگی کے۔ زیادہ تر LLM API اسی طرح بل بناتے ہیں، پری پیڈ بیلنس یا وقتاً فوقتاً بننے والی انوائس سے۔

[کنکرنسی (concurrency)](https://broadrouter.com/ur/glossary/concurrency/)

کنکرنسی، کسی کلائنٹ کی بیک وقت چل رہی (in-flight) درخواستوں کی تعداد ہے۔ LLM APIs اکثر اس کی حد ہر کلید یا پلان پر، فی منٹ درخواستوں سے الگ رکھتے ہیں، کیونکہ ہر کھلی درخواست جواب مکمل ہونے تک GPU کی گنجائش گھیرے رکھتی ہے۔

[Server-sent events (SSE)](https://broadrouter.com/ur/glossary/sse/)

Server-sent events (SSE) ایک ویب معیار ہے جس میں سرور text/event-stream کانٹینٹ ٹائپ والے ایک دیر تک کھلے HTTP جواب پر کلائنٹ کو متنی events کی اسٹریم بھیجتا ہے۔ ہر event میں data: جیسی ایک یا زیادہ فیلڈ لائنیں ہوتی ہیں، اور وہ ایک خالی لائن پر ختم ہوتا ہے۔

[ٹوکن (token)](https://broadrouter.com/ur/glossary/token/)

ٹوکن متن کی وہ اکائی ہے جسے لینگویج ماڈل پڑھتا اور لکھتا ہے: کوئی لفظ، لفظ کا حصہ، رموزِ اوقاف کی کوئی علامت یا بائٹس کا سلسلہ، جو ماڈل کا ٹوکنائزر بناتا ہے۔ LLM API استعمال کو ٹوکنز میں گنتے ہیں، انہی میں حدیں لگاتے ہیں اور عموماً بل بھی بناتے ہیں۔

[AI ایجنٹ (AI agent)](https://broadrouter.com/ur/glossary/agent/)

AI ایجنٹ ایسا نظام ہے جس میں لینگویج ماڈل کسی ہدف کی طرف اپنے قدم خود طے کرتا ہے: کون سے ٹولز کال کرنے ہیں، یہ چنتا ہے، نتائج پڑھتا ہے اور حتمی جواب یا کسی حد تک دہراتا رہتا ہے۔ مقررہ مقامات پر ماڈل کو کال کرنے والی اسکرپٹ کو عموماً workflow کہا جاتا ہے۔

## عام سوالات

### chat completions اسٹریم کرتے وقت ٹوکن usage کیسے ملے گا؟

stream\_options بھیجیں اور اس میں include\_usage کو true کریں۔ data: \[DONE\] سے عین پہلے ایک اضافی چنک آتا ہے، جس میں usage بھرا ہوتا ہے اور choices کی فہرست خالی ہوتی ہے۔ اگر اسٹریم پہلے ہی ٹوٹ جائے تو یہ چنک کبھی نہیں آتا۔

### curl پورا اسٹریم شدہ جواب ایک ساتھ کیوں پرنٹ کرتا ہے؟

curl بطور ڈیفالٹ اپنا آؤٹ پٹ بفر کرتا ہے۔ -N فلیگ (no buffering) شامل کریں تاکہ ہر Server-Sent Event آتے ہی پرنٹ ہو۔

### کیا دوبارہ بھیجی گئی اسٹریم کا بل دو بار بنتا ہے؟

استعمال کے مطابق ادائیگی میں، ہاں۔ دوبارہ کوشش ایک نئی انفرنس درخواست ہے۔ DeepSeek V4.1 Flash کے لامحدود پلان پر کوئی ٹوکن میٹر نہیں، لیکن دوبارہ کوشش چلتے وقت سیشن کو مصروف رکھتی ہے۔

### کیا اسٹریمنگ عام درخواست سے مہنگی پڑتی ہے؟

نہیں۔ اسٹریمنگ سے صرف یہ بدلتا ہے کہ جواب کیسے پہنچتا ہے، بلنگ نہیں۔ استعمال کے مطابق ادائیگی میں آپ وہی فی ٹوکن ان پٹ اور آؤٹ پٹ قیمت دیتے ہیں جو بغیر اسٹریمنگ والی درخواست میں۔

## متعلقہ گائیڈز

-   [BroadNet Inference کے ساتھ OpenAI Python SDK استعمال کریں](https://broadrouter.com/ur/guides/openai-python-sdk/)
-   [BroadNet Inference کے ایرر کوڈز اور دوبارہ کوشش کب کریں](https://broadrouter.com/ur/guides/errors-and-retries/)
-   [ریزننگ ماڈل خالی جواب کیوں لوٹاتا ہے](https://broadrouter.com/ur/guides/reasoning-tokens-empty-response/)

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-guides-streaming-chat-completions&utm_content=page-cta) ·

**ذرائع**

-   [BroadNet Inference API ریفرنس، اسٹریمنگ (انگریزی میں)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-guides-streaming-chat-completions&utm_content=sources#requests)
-   [WHATWG HTML اسٹینڈرڈ، server-sent events (2026-11-14 کو جانچا گیا)](https://html.spec.whatwg.org/multipage/server-sent-events.html)
-   [OpenAI Python SDK، stream\_options include\_usage کی docstring (2026-11-14 کو جانچا گیا)](https://github.com/openai/openai-python/blob/main/src/openai/types/chat/chat_completion_stream_options_param.py)
