---
title: "vLLM کیا ہے؟ اوپن سورس LLM سرونگ انجن آسان الفاظ میں"
description: "vLLM ایک اوپن سورس LLM سرونگ انجن ہے جو PagedAttention اور continuous batching پر بنا ہے اور OpenAI-compatible سرور دیتا ہے۔ یہ کیا کرتا ہے اور کب استعمال کریں۔"
url: https://broadrouter.com/ur/glossary/vllm/
lang: ur
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

یہ صفحہ انگریزی سے AI کی مدد سے ترجمہ کیا گیا ہے۔ [انگریزی اصل پڑھیں](https://broadrouter.com/glossary/vllm/) (اپ ڈیٹ: 2026-11-15).

# vLLM

اپ ڈیٹ 2026-11-15

vLLM، LLM inference اور سرونگ کے لیے ایک اوپن سورس لائبریری ہے، جو پہلے UC Berkeley کی Sky Computing Lab میں بنائی گئی۔ یہ PagedAttention سے KV cache میموری سنبھالتی ہے، آنے والی درخواستوں کو مسلسل بیچ کرتی ہے، کئی quantization فارمیٹس سپورٹ کرتی ہے اور OpenAI-compatible HTTP سرور دیتی ہے۔

دوسرے نام: vllm kya hai، vllm server kya hai، وی ایل ایل ایم، vLLM server، vLLM serve

جب لوگ کسی open-weight ماڈل کو GPU سرور پر خود ہوسٹ کرتے ہیں تو vLLM ان پہلے انجنوں میں ہے جنہیں وہ آزماتے ہیں۔

## یہ کیسے کام کرتا ہے

پروجیکٹ کی دستاویزات vLLM کو “a fast and easy-to-use library for LLM inference and serving” (ترجمہ: LLM inference اور سرونگ کے لیے ایک تیز اور آسان لائبریری) بتاتی ہیں، جو “Originally developed in the Sky Computing Lab at UC Berkeley” (ترجمہ: اصل میں UC Berkeley کی Sky Computing Lab میں تیار ہوئی) ہے۔ اس کے بنیادی خیالات:

-   **PagedAttention۔** vLLM کے پیچھے 2023 کا پیپر [KV cache](https://broadrouter.com/ur/glossary/kv-cache/) میموری کو ایسے طریقے سے سنبھالتا ہے جو “inspired by the classical virtual memory and paging techniques in operating systems” (ترجمہ: آپریٹنگ سسٹمز کی کلاسک ورچوئل میموری اور پیجنگ تکنیکوں سے متاثر) ہے۔ پیپر “near-zero waste in KV cache memory” (ترجمہ: KV cache میموری میں تقریباً صفر ضیاع) اور ملتی جلتی لیٹنسی پر FasterTransformer اور Orca سے 2 سے 4 گنا [throughput](https://broadrouter.com/ur/glossary/throughput/) رپورٹ کرتا ہے۔
-   **Continuous batching۔** آنے والی درخواستیں مقررہ بیچ کا انتظار کرنے کے بجائے متحرک طور پر بیچ ہوتی ہیں۔ دستاویزات اس کے ساتھ chunked prefill اور prefix caching بھی گنواتی ہیں؛ [prefill اور decode](https://broadrouter.com/ur/glossary/prefill-and-decode/) دیکھیں۔
-   **کئی فارمیٹس۔** دستاویزات [quantization](https://broadrouter.com/ur/glossary/quantization/) کے لیے FP8، INT8، INT4، GPTQ/[AWQ](https://broadrouter.com/ur/glossary/awq/)، [GGUF](https://broadrouter.com/ur/glossary/gguf/) اور دیگر فارمیٹس درج کرتی ہیں۔
-   **ہارڈ ویئر۔** NVIDIA اور AMD GPUs اور کئی CPU فیملیز، اور دوسرے ایکسلریٹرز کے لیے پلگ انز۔
-   **OpenAI-compatible سرور۔** اسے `vllm serve` سے شروع کریں اور [OpenAI-compatible API](https://broadrouter.com/ur/glossary/openai-compatible-api/) کی طرح کال کریں۔

آپ کے اپنے سرور پر ایک کم سے کم کلائنٹ کال:

```python
from openai import OpenAI
client = OpenAI(base_url="http://YOUR_VLLM_HOST/v1", api_key="unused")
r = client.chat.completions.create(
    model="your-model",
    messages=[{"role": "user", "content": "Hello"}])
```

سرور کو ماڈل کے لیے [چیٹ ٹیمپلیٹ](https://broadrouter.com/ur/glossary/chat-template/) چاہیے۔ سرونگ دستاویزات خبردار کرتی ہیں: “Without a chat template, the server will not be able to process chat and all chat requests will error.” (ترجمہ: چیٹ ٹیمپلیٹ کے بغیر سرور چیٹ پروسیس نہیں کر سکے گا اور تمام چیٹ درخواستیں ایرر دیں گی۔) آپ `--chat-template` سے ایک ٹیمپلیٹ دے سکتے ہیں۔

## یہ کیوں اہم ہے

-   **سیلف ہوسٹنگ کی بنیاد۔** اگر آپ API کی قیمت کا موازنہ اپنے GPUs چلانے سے کرتے ہیں تو vLLM ناپنے کے لیے ایک عام انجن ہے۔ ہماری [سیلف ہوسٹنگ بمقابلہ API لاگت گائیڈ](https://broadrouter.com/ur/blog/self-hosting-llm-vs-api-cost/) تجویز کرتی ہے کہ vLLM یا SGLang کے ساتھ اپنے اصل پرامپٹس اصل concurrency پر ٹیسٹ کریں۔
-   **سرونگ سے نتائج بدلتے ہیں۔** وہی weights انجن ورژن، quantization اور سیٹنگز کے لحاظ سے تیز یا سست چل سکتے ہیں، اور مختلف اسکور دے سکتے ہیں۔
-   **مشترکہ اصطلاحات۔** PagedAttention، chunked prefill اور [speculative decoding](https://broadrouter.com/ur/glossary/speculative-decoding/) جیسی اصطلاحات سمجھنا آسان ہو جاتا ہے جب آپ جانتے ہیں کہ vLLM انہیں کہاں استعمال کرتا ہے۔

## BroadNet Inference پر

BroadNet یہ نہیں بتاتا کہ اس کا پبلک API کون سا انجن سرو کرتا ہے، اس لیے یہ صفحہ ایسا کوئی دعویٰ نہیں کرتا۔ BroadNet نے جو شائع کیا ہے: ستمبر 2026 کا ایک پری پرنٹ، [Uno in vLLM](https://broadrouter.com/ur/blog/uno-in-vllm-serving-study/)، جو IFM کا Uno self-drafting adapter vLLM میں شامل کرتا ہے اور H100 پر Qwen3-8B کے ساتھ ایک اسٹریم پر سادہ vLLM سے 2.58 گنا اور 32 اسٹریمز پر 1.74 گنا throughput رپورٹ کرتا ہے۔ اس کا کوڈ BroadNet کی vllm-uno ریپوزٹری میں پبلک ہے۔ BroadNet کا کیٹلاگ اپنی لیب کنفیگریشنز میں AMD ROCm کے لیے پیچ شدہ vLLM پر [Qwen3.8 27B](https://broadrouter.com/ur/models/qwen3.8-27b/) کا AWQ INT4 بلڈ بھی درج کرتا ہے۔ BroadNet اپنے فلیٹ کو کیسے بیان کرتا ہے، یہ جاننے کے لیے [اس کی GPU ہارڈ ویئر اور سرونگ پوسٹ](https://broadrouter.com/ur/blog/broadnet-gpu-fleet-and-serving/) دیکھیں۔

## عام سوالات

### کیا vLLM کوئی API فراہم کنندہ ہے؟

نہیں۔ vLLM ایک سافٹ ویئر ہے جسے آپ اپنے ہارڈ ویئر پر چلاتے ہیں۔ اسے براہِ راست استعمال کرنے کا مطلب ہے کہ GPUs، اسکیلنگ اور اپ گریڈ آپ خود سنبھالتے ہیں۔

### کیا میں OpenAI SDK کو vLLM سرور سے جوڑ سکتا ہوں؟

ہاں۔ vLLM ایک OpenAI-compatible سرور دیتا ہے، اس لیے آپ SDK کا base URL اپنے سرور پر سیٹ کر کے chat completion درخواستیں بھیجتے ہیں۔ ماڈل کے لیے چیٹ ٹیمپلیٹ ہونا چاہیے، ورنہ چیٹ درخواستیں ناکام ہوتی ہیں۔

### کیا BroadNet Inference، vLLM پر چلتا ہے؟

BroadNet یہ نہیں بتاتا کہ اس کا پبلک API کون سا انجن سرو کرتا ہے۔ اس نے vLLM کا ایک تحقیقی امپلیمنٹیشن (Uno in vLLM) شائع کیا ہے اور اپنی لیب کنفیگریشنز میں AMD ROCm کے لیے پیچ شدہ vLLM بلڈ درج کرتا ہے۔

## یہ بھی دیکھیں

-   [KV cache (کی ویلیو کیش)](https://broadrouter.com/ur/glossary/kv-cache/) (اصطلاح)
-   [Prefill اور decode](https://broadrouter.com/ur/glossary/prefill-and-decode/) (اصطلاح)
-   [تھروپٹ (throughput)](https://broadrouter.com/ur/glossary/throughput/) (اصطلاح)
-   [کوانٹائزیشن (quantization)](https://broadrouter.com/ur/glossary/quantization/) (اصطلاح)
-   [OpenAI-compatible API](https://broadrouter.com/ur/glossary/openai-compatible-api/) (اصطلاح)
-   [اسپیکیولیٹو ڈیکوڈنگ (speculative decoding)](https://broadrouter.com/ur/glossary/speculative-decoding/) (اصطلاح)
-   [vLLM میں Uno: BroadNet کی سرونگ اسٹڈی نے کیا ناپا](https://broadrouter.com/ur/blog/uno-in-vllm-serving-study/) (مضمون)
-   [LLM خود ہوسٹ کریں یا API لیں: اصل لاگت اور بریک ایون](https://broadrouter.com/ur/blog/self-hosting-llm-vs-api-cost/) (مضمون)
-   [BroadNet کا GPU ہارڈویئر اور سروِنگ کا طریقہ، BroadNet کی زبانی](https://broadrouter.com/ur/blog/broadnet-gpu-fleet-and-serving/) (مضمون)

اسے اپنے اصل کام پر آزمائیں۔ نئے اکاؤنٹس Gemma اور ٹرانسکرپشن کے لیے US$5 کے کریڈٹ سے شروع ہوتے ہیں۔ DeepSeek، GLM، اور Qwen3.8 کے لیے ٹاپ اپ ضروری ہے۔

[شروع کریں](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ur-glossary-vllm&utm_content=page-cta) ·

**ذرائع**

-   [Kwon اور دیگر، Efficient Memory Management for LLM Serving with PagedAttention، arXiv 2309.06180 (2026-11-15 کو جانچا گیا)](https://arxiv.org/abs/2309.06180)
-   [vLLM دستاویزات، جائزہ (2026-11-15 کو جانچا گیا)](https://docs.vllm.ai/en/latest/)
-   [vLLM دستاویزات، آن لائن سرونگ اور چیٹ ٹیمپلیٹس (2026-11-15 کو جانچا گیا)](https://docs.vllm.ai/en/latest/serving/online_serving/)
-   [Al Zubaidi، Uno in vLLM: An Independent Implementation and Empirical Serving Study، Zenodo پری پرنٹ (2026-11-15 کو جانچا گیا)](https://doi.org/10.5281/zenodo.22652610)
