---
title: "LLM API SLA तुलना: Azure, Bedrock, Gemini, OpenAI | BroadRouter"
description: "हर LLM API प्रोवाइडर लिखित में क्या वादा करता है: अपटाइम प्रतिशत, डाउनटाइम किसे माना जाता है, सर्विस क्रेडिट और लेटेंसी टारगेट, SLA पेजों से पढ़कर।"
url: https://broadrouter.com/hi/blog/llm-api-sla-uptime-compared/
lang: hi
updated: 2026-11-15
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/blog/llm-api-sla-uptime-compared/) (2026-11-16 को अपडेट किया गया).

# LLM API SLA तुलना: Azure, Bedrock, Google और OpenAI क्या वादा करते हैं

BroadNet Inference टीम · 7 मिनट में पढ़ें · प्रकाशित 2026-11-15 · अपडेट किया गया 2026-11-16

ज़्यादातर LLM API उपयोग के अनुसार भुगतान पर अपटाइम का वादा नहीं करते। लिखित SLA क्लाउड कॉन्ट्रैक्ट या रिज़र्व्ड क्षमता के साथ आते हैं: Azure Foundry Models और Amazon Bedrock 99.9% मासिक अपटाइम से नीचे क्रेडिट देते हैं, Google का Gemini ऑनलाइन इन्फ़रेंस 99.5% से नीचे, और OpenAI का Scale Tier Enterprise ख़रीदारों को 99.9% देता है। Anthropic की कमर्शियल शर्तों और BroadNet की सेल्फ़-सर्व शर्तों में कोई SLA नहीं। उपाय बिल में क्रेडिट है।

## मुख्य बातें

-   Azure Foundry Models (जिनमें सभी Azure OpenAI मॉडल शामिल हैं) और Amazon Bedrock 99.9% मासिक अपटाइम से नीचे सर्विस क्रेडिट देते हैं। Google का Gemini ऑनलाइन इन्फ़रेंस SLA 99.5% से शुरू होता है।
-   OpenAI का 99.9% अपटाइम SLA, Scale Tier का हिस्सा है, जो कम से कम 30 दिन के लिए टोकन यूनिट में ख़रीदा जाने वाला Enterprise ऑफ़र है। स्टैंडर्ड उपयोग के अनुसार भुगतान के लिए हमें कोई अपटाइम SLA नहीं मिला।
-   Anthropic की Commercial Terms सर्विस "as is" और "as available" देती हैं। BroadNet की सेल्फ़-सर्व शर्तों में "no availability commitment" है।
-   डाउनटाइम का मतलब आम तौर पर सिर्फ़ सर्वर एरर (5XX या 500) है। रेट लिमिट, धीमे जवाब और ख़राब आउटपुट डाउनटाइम नहीं हैं, जब तक कोई अलग लेटेंसी SLA लागू न हो।
-   क्रेडिट भविष्य के बिलों पर सीमित छूट हैं, इसलिए फ़ेलियर को ध्यान में रखकर ही डिज़ाइन करें: रीट्राई, टाइमआउट और एक फ़ॉलबैक प्रोवाइडर।

**इस पेज पर**

1.  LLM API SLA असल में क्या वादा करता है?
2.  कौन-से LLM API SLA प्रकाशित करते हैं?
3.  हाइपरस्केलर के SLA आपस में कैसे अलग हैं?
4.  सीधे OpenAI और Anthropic का क्या?
5.  SLA से आपको क्या नहीं मिलता?
6.  बिना SLA वाले API पर कैसे बनाएँ?
7.  BroadNet Inference कहाँ फ़िट होता है

“LLM API SLA” सर्च करें तो ऐसी टेबल मिलती हैं जो आपस में मेल नहीं खातीं। यह पोस्ट टेबल छोड़कर सीधे स्रोत पढ़ती है: हर प्रोवाइडर का अपना SLA या शर्तों का पेज, 15 नवंबर 2026 को लिया गया। हर एक के लिए हम अपटाइम टारगेट, डाउनटाइम किसे माना जाता है, सर्विस क्रेडिट, कोई लेटेंसी टारगेट और कौन-सा टियर कवर है, यह दर्ज करते हैं। BroadRouter, BroadNet की वेबसाइट है, इसलिए BroadNet भी सूची में है, और यह उन प्रोवाइडरों में से एक है जिनका सेल्फ़-सर्व पर कोई SLA नहीं है।

## LLM API SLA असल में क्या वादा करता है?

[SLA](https://broadrouter.com/hi/glossary/sla/) एक लिखित टारगेट है जिसके साथ एक उपाय जुड़ा होता है। यह API को चालू नहीं रखता। यह बताता है कि जब API चालू नहीं रहता, तो आपके बिल पर क्या होता है। नीचे के हर SLA के चार हिस्से हैं:

1.  **एक टारगेट।** आम तौर पर हर रीजन, प्रोजेक्ट या रिसोर्स के लिए मासिक अपटाइम प्रतिशत।
2.  **डाउनटाइम की परिभाषा।** लगभग हमेशा सिर्फ़ सर्वर एरर: मान्य अनुरोधों पर 500 या 5XX रिस्पॉन्स। 429 [रेट लिमिट](https://broadrouter.com/hi/glossary/rate-limit/) डाउनटाइम नहीं है। न धीमा जवाब, न ग़लत जवाब।
3.  **एक उपाय।** प्रभावित सर्विस के उस महीने के बिल का एक प्रतिशत, भविष्य के बिलों में क्रेडिट, और उसकी एक सीमा।
4.  **क्लेम की प्रक्रिया।** आप अपने लॉग के साथ, एक समय-सीमा के अंदर क्रेडिट माँगते हैं।

43,200 मिनट वाले 30 दिन के महीने में प्रतिशत मिनटों में ऐसे बदलते हैं:

| मासिक अपटाइम | अनुमत डाउनटाइम |
| --- | --- |
| 99.9% | लगभग 43 मिनट |
| 99.5% | 216 मिनट |
| 99.0% | 432 मिनट |
| 95.0% | 36 घंटे |

## कौन-से LLM API SLA प्रकाशित करते हैं?

सभी पंक्तियाँ 15 नवंबर 2026 को प्रोवाइडर के अपने पेज से पढ़ी गईं। “नहीं मिला” का मतलब है कि जो पेज हमने जाँचा, उसमें कोई SLA नहीं लिखा; इससे किसी निजी कॉन्ट्रैक्ट की संभावना ख़त्म नहीं होती।

| प्रोवाइडर और सर्विस | अपटाइम टारगेट | डाउनटाइम किसे माना जाता है | क्रेडिट | लेटेंसी SLA | कौन कवर है |
| --- | --- | --- | --- | --- | --- |
| Microsoft Azure, Foundry Models (Azure OpenAI मॉडल शामिल) | 99.9% | एरर कोड लौटाने वाले अनुरोध, हर मिनट का औसत | 99.9% से नीचे 10%, 99% से नीचे 25% | हाँ, Provisioned Managed डिप्लॉयमेंट और Priority Processing के लिए | Azure द्वारा बेचे जाने वाले Foundry Models; Developer टियर बाहर |
| Amazon Bedrock | 99.9% (इससे नीचे क्रेडिट शुरू) | 500 एरर कोड लौटाने वाले अनुरोध, हर 5 मिनट के अंतराल पर, हर रीजन में | 10%, 99.0% से नीचे 25%, 95.0% से नीचे 100% | SLA में कोई नहीं | हर AWS रीजन में Bedrock |
| Google, Gemini ऑनलाइन इन्फ़रेंस API | 99.5% (कम उपलब्धता वाले मॉडलों के लिए 95%) | लगातार 5 या ज़्यादा मिनट तक 5% से ज़्यादा 5XX एरर दर | 10%, 99.0% से नीचे 25%, 95.0% से नीचे 50% | हाँ, ग्लोबल एंडपॉइंट पर Provisioned Throughput के तहत | `generateContent` और `streamGenerateContent` |
| OpenAI, Scale Tier | 99.9% | सार्वजनिक पेज पर परिभाषित नहीं | सार्वजनिक पेज पर नहीं बताया गया | 99% समय हर मॉडल के टोकन-प्रति-सेकंड न्यूनतम स्तर से ऊपर | Enterprise ग्राहक, कम से कम 30 दिन के लिए ख़रीदी गई टोकन यूनिट |
| OpenAI, स्टैंडर्ड उपयोग के अनुसार भुगतान | नहीं मिला | – | – | – | – |
| Anthropic API | नहीं मिला; शर्तें “as is” और “as available” कहती हैं | – | – | – | – |
| Fireworks AI, Reserved Throughput | 99.9% अपटाइम शर्तें | प्राइसिंग पेज पर नहीं बताया गया | नहीं बताया गया | थ्रूपुट SLA | सिर्फ़ रिज़र्व्ड क्षमता; ओवरेज कवर नहीं |
| Together AI | सर्वरलेस: कुछ नहीं बताया गया। “Provisioned Throughput: Token-based capacity with SLAs” (शर्तें पेज पर प्रकाशित नहीं) | – | – | – | SLA की शर्तों के लिए सेल्स से पूछें |
| BroadNet Inference, सेल्फ़-सर्व | कोई नहीं: “no availability commitment” | – | – | – | सर्विस लेवल सिर्फ़ अलग लिखित समझौते में |

## हाइपरस्केलर के SLA आपस में कैसे अलग हैं?

**Microsoft Azure।** Microsoft का Learn पेज कहता है कि Azure द्वारा बेचे जाने वाले Foundry Models “include all Azure OpenAI models” (अनुवाद: सभी Azure OpenAI मॉडल शामिल करते हैं) और “covered by Azure service-level agreements” (अनुवाद: Azure सर्विस-लेवल समझौतों से कवर हैं)। समेकित SLA (अक्टूबर 2026 संस्करण) Error Rate को हर मिनट के हिसाब से, और Uptime Percentage को 100% में से औसत एरर दर घटाकर परिभाषित करता है। क्रेडिट 99.9% से नीचे 10% और 99% से नीचे 25% हैं। क्रेडिट सिर्फ़ Azure द्वारा बेचे जाने वाले Foundry Models पर लागू होते हैं, और “The Developer tier of the Foundry Models service is not covered by this SLA.” (अनुवाद: Foundry Models सर्विस का Developer टियर इस SLA से कवर नहीं है।) Provisioned Managed डिप्लॉयमेंट और Priority Processing के लिए, एक दूसरा SLA प्रोडक्ट डॉक्यूमेंटेशन में दिए हर मॉडल के टारगेट के मुक़ाबले टोकन प्रति सेकंड मापता है, और उपलब्धि 99% से नीचे जाने पर 10% क्रेडिट देता है।

**Amazon Bedrock।** AWS अपटाइम टेबल पूरी करने के लिए “commercially reasonable efforts” (अनुवाद: व्यावसायिक रूप से उचित प्रयास) का वादा करता है। उपलब्धता है “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors” (अनुवाद: Amazon Bedrock द्वारा प्रोसेस किए गए उन अनुरोधों का प्रतिशत जो एरर के साथ फ़ेल नहीं होते), और Error है “any Request that returns a 500 error code” (अनुवाद: कोई भी अनुरोध जो 500 एरर कोड लौटाता है)। यह हर रीजन के लिए गिना जाता है, और जिन अंतरालों में कोई अनुरोध नहीं था, वे पूरी तरह उपलब्ध माने जाते हैं। अपवादों में ग्राहक की कार्रवाइयाँ, जैसे “scaling of provisioned throughput” (अनुवाद: प्रोविज़न्ड थ्रूपुट की स्केलिंग), और मॉडल सॉफ़्टवेयर से होने वाले “repeated model crashes or an inoperable model” (अनुवाद: बार-बार मॉडल क्रैश या काम न करने वाला मॉडल) शामिल हैं। SLA में कोई लेटेंसी टारगेट नहीं है।

**Google Cloud।** Gemini ऑनलाइन इन्फ़रेंस SLA इस मामले में सबसे सख़्त है कि क्या गिना जाता है। डाउनटाइम के लिए 5XX रिस्पॉन्स की 5% से ज़्यादा एरर दर चाहिए, जो “five or more consecutive minutes” (अनुवाद: लगातार पाँच या ज़्यादा मिनट) तक चले। क्रेडिट सर्विस के मासिक बिल के 50% तक सीमित हैं, आपको 30 दिन के अंदर लॉग फ़ाइलों के साथ सपोर्ट को सूचित करना होता है, और SLA आपका “sole and exclusive remedy” (अनुवाद: एकमात्र और विशेष उपाय) है। Google Search से ग्राउंडिंग, कोटा एरर और सर्वर डिफ़ॉल्ट से छोटी डेडलाइन बाहर रखी गई हैं। Provisioned Throughput के तहत, एक लेटेंसी SLA ग्लोबल एंडपॉइंट पर कुछ Gemini 2.5 मॉडलों को कवर करता है, जो हर 5 मिनट के अंतराल पर p50 टोकन प्रति सेकंड के रूप में मापा जाता है। अगर आप इसके बजाय Vertex AI पर अपना ओपन मॉडल डिप्लॉय करते हैं, तो अलग Vertex AI Platform SLA कस्टम मॉडल ऑनलाइन प्रेडिक्शन को 99.5% पर कवर करता है, पर सिर्फ़ “for models deployed on 2 or more nodes” (अनुवाद: 2 या ज़्यादा नोड पर डिप्लॉय किए गए मॉडलों के लिए)।

## सीधे OpenAI और Anthropic का क्या?

**OpenAI।** Scale Tier पेज कहता है: “Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.” (अनुवाद: Scale Tier ट्रैफ़िक 99.9% अपटाइम SLA और प्राथमिकता वाला कंप्यूट देता है।) उसकी टेबल इसके साथ हर मॉडल का लेटेंसी SLA जोड़ती है, जैसे “99% > 50 tokens per second”, जो हर 5 मिनट में p50 अनुरोध लेटेंसी के रूप में गिना जाता है। पेज कहता है “This offering is available to Enterprise customers” (अनुवाद: यह ऑफ़र Enterprise ग्राहकों के लिए उपलब्ध है), कि हर टोकन यूनिट “for a minimum of 30 days” (अनुवाद: कम से कम 30 दिन के लिए) ख़रीदी जाती है, और कि Scale Tier GPT-5.6 से पहले जारी मॉडलों को कवर करता है, बाद के मॉडलों के लिए Reserved Tier है। स्टैंडर्ड उपयोग के अनुसार भुगतान वाले इस्तेमाल से जुड़ा कोई अपटाइम SLA हमें नहीं मिला। (openai.com ने हमारे फ़ेचर को ब्लॉक किया, इसलिए हमने पेज Internet Archive के 7 नवंबर 2026 के कैप्चर से पढ़ा।)

**Anthropic।** सार्वजनिक Commercial Terms (17 जून 2025 से लागू) में कोई SLA या सर्विस क्रेडिट नहीं है। सेक्शन L.2 सर्विस “AS IS” और “AS AVAILABLE” देता है और इस बात से इनकार करता है कि इस्तेमाल “WILL BE UNINTERRUPTED” (अनुवाद: बिना रुकावट होगा)। एंटरप्राइज़ समझौते अलग हो सकते हैं, पर वे सार्वजनिक नहीं हैं।

## SLA से आपको क्या नहीं मिलता?

-   **ख़ुद अपटाइम।** क्रेडिट आउटेज के बाद मिलता है। आपके यूज़र ने फिर भी उसे देखा।
-   **क्षमता।** थ्रॉटलिंग (429) ऊपर की हर अपटाइम परिभाषा से बाहर है। Google साफ़ तौर पर “quotas applied by the system” (अनुवाद: सिस्टम द्वारा लागू कोटा) को बाहर रखता है। देखें [429 एरर कैसे सँभालें](https://broadrouter.com/hi/blog/handle-llm-api-429-rate-limits/)।
-   **स्पीड।** सिर्फ़ प्रोविज़न्ड या रिज़र्व्ड टियर में टोकन-प्रति-सेकंड टारगेट होता है। स्टैंडर्ड ट्रैफ़िक पर धीमा जवाब भी सफल जवाब है। [लेटेंसी मेट्रिक्स की व्याख्या](https://broadrouter.com/hi/blog/llm-latency-ttft-throughput/)।
-   **क्वालिटी।** ग़लत जवाब वाला 200 रिस्पॉन्स कहीं भी डाउनटाइम नहीं है।
-   **ज़्यादा पैसा।** क्रेडिट एक सर्विस के मासिक बिल का हिस्सा होते हैं, अक्सर सीमित, और आपको उन्हें अपने लॉग के साथ क्लेम करना पड़ता है।

## बिना SLA वाले API पर कैसे बनाएँ?

ज़्यादातर टीमें बिना SLA वाले उपयोग के अनुसार भुगतान वाले API पर बनाती हैं। यह तब काम करता है जब ऐप्लिकेशन फ़ेलियर की उम्मीद रखता है:

1.  **टाइमआउट सेट करें।** लंबे जवाब स्ट्रीम करें और हर अनुरोध पर क्लाइंट टाइमआउट सेट करें, ताकि अटकी कॉल जल्दी फ़ेल हो। [स्ट्रीमिंग गाइड](https://broadrouter.com/hi/guides/streaming-chat-completions/)।
2.  **बैकऑफ़ और जिटर के साथ रीट्राई करें** 429 और 5XX पर, और रीट्राई की सीमा रखें। [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/)।
3.  **दूसरा प्रोवाइडर कॉन्फ़िगर रखें।** OpenAI-कम्पैटिबल API के साथ फ़ॉलबैक का मतलब है दूसरा base URL, key और मॉडल ID। [LLM API के बीच फ़ेलओवर कैसे करें](https://broadrouter.com/hi/blog/llm-api-failover-fallback/)।
4.  **अनुरोध ID, टाइमस्टैम्प और स्टेटस कोड लॉग करें।** किसी भी SLA क्लेम के लिए और अपनी असली एरर दर देखने के लिए ये चाहिए।
5.  **जहाँ ज़रूरत हो, कॉन्ट्रैक्ट ख़रीदें।** अगर अपटाइम एक सख़्त ज़रूरत है, तो लिखित SLA वाला प्रोवाइडर टियर इस्तेमाल करें, या तय सर्विस लेवल वाला प्राइवेट डिप्लॉयमेंट। [प्राइवेट एंडपॉइंट से पहले क्या प्लान करें](https://broadrouter.com/hi/blog/private-endpoint-planning/)।

## BroadNet Inference कहाँ फ़िट होता है

BroadRouter, BroadNet की अपनी वेबसाइट है। BroadNet के सेल्फ़-सर्व API का, चाहे उपयोग के अनुसार भुगतान हो या प्लान, कोई SLA नहीं है। उसकी सेवा की शर्तें (§7.4) कहती हैं: “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.” (अनुवाद: हमारा लक्ष्य API को उपलब्ध रखना और जो हम मापते हैं उसे प्रकाशित करना है, पर सेल्फ़-सर्व पर उपलब्धता की कोई प्रतिबद्धता नहीं है।) और: “Service levels exist only in a separate written agreement.” (अनुवाद: सर्विस लेवल सिर्फ़ अलग लिखित समझौते में होते हैं।) इस मामले में Azure, AWS और Google ज़्यादा देते हैं: क्रेडिट के साथ लिखित अपटाइम टारगेट। BroadNet की उपयोग के अनुसार भुगतान वाली key पर 30 अनुरोध प्रति मिनट और एक साथ 4 चालू अनुरोध की अनुमति है। अपने सर्विंग सेटअप का BroadNet का अपना विवरण [BroadNet का GPU हार्डवेयर और सर्विंग तरीक़ा](https://broadrouter.com/hi/blog/broadnet-gpu-fleet-and-serving/) में है, जिसे हम BroadNet के बयान के रूप में बताते हैं, प्रतिबद्धता के रूप में नहीं।

अगर आपका काम रीट्राई और फ़ॉलबैक के साथ चल सकता है, तो BroadNet का OpenAI-कम्पैटिबल एंडपॉइंट कॉन्फ़िगर करने के लिए एक और base URL है: `https://inference.broadnet.ai/v1`। अगर आपको अनुबंधित सर्विस लेवल चाहिए, तो भरोसा करने से पहले BroadNet से लिखित समझौते के बारे में पूछें। [API रेफ़रंस पढ़ें](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-blog-llm-api-sla-uptime-compared&utm_content=body) या [अकाउंट बनाएँ](https://inference.broadnet.ai/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-blog-llm-api-sla-uptime-compared&utm_content=body)।

इस विषय के मुफ़्त टूल (अंग्रेज़ी में)

-   [LLM API cost calculator](https://broadrouter.com/tools/llm-api-cost-calculator/) Price a workload on every model at once, with cache hits, reasoning and a flat-plan check.
-   [LLM token counter](https://broadrouter.com/tools/token-counter/) Exact token counts with each model's real tokenizer, with a token view and cost.
-   [Context window calculator](https://broadrouter.com/tools/context-window-calculator/) Will it fit? Window used per model, room left for output, cost to send.

[मुफ़्त टूल (अंग्रेज़ी में)](https://broadrouter.com/tools/)

## इस लेख के शब्द

[SLA (सर्विस लेवल एग्रीमेंट)](https://broadrouter.com/hi/glossary/sla/)

SLA (सर्विस लेवल एग्रीमेंट) प्रोवाइडर की ओर से सर्विस के नापे जा सकने वाले स्तर का अनुबंधित वादा है, आम तौर पर मासिक अपटाइम प्रतिशत, और उसके पूरा न होने पर तय उपाय, आम तौर पर सर्विस क्रेडिट। SLA बताता है कि डाउनटाइम किसे माना जाएगा, क्या बाहर है और दावा कैसे करें।

[थ्रूपुट (throughput)](https://broadrouter.com/hi/glossary/throughput/)

LLM सर्विंग में थ्रूपुट वह कुल काम है जो कोई सिस्टम सभी कॉन्करेंट अनुरोधों में प्रति इकाई समय पूरा करता है, आम तौर पर आउटपुट टोकन प्रति सेकंड या अनुरोध प्रति सेकंड में नापा जाता है। यह प्रति-स्ट्रीम स्पीड से अलग है, जो बताती है कि एक अनुरोध को उसके टोकन कितनी तेज़ी से मिलते हैं।

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[टोकन (token)](https://broadrouter.com/hi/glossary/token/)

टोकन टेक्स्ट की वह इकाई है जिसे लैंग्वेज मॉडल पढ़ता और लिखता है: कोई शब्द, शब्द का हिस्सा, विराम चिह्न या बाइट का क्रम, जो मॉडल का टोकनाइज़र बनाता है। LLM API इस्तेमाल को टोकन में गिनते हैं, उसी में लिमिट लगाते हैं और आम तौर पर बिल भी बनाते हैं।

[लेटेंसी (latency)](https://broadrouter.com/hi/glossary/latency/)

लैंग्वेज मॉडल API के लिए लेटेंसी वह समय है जो किसी अनुरोध के भेजे जाने से अंतिम आउटपुट टोकन मिलने तक लगता है। यह पहले टोकन तक के समय और जनरेशन टाइम का जोड़ है, और आम तौर पर औसत के बजाय p50 और p95 जैसे परसेंटाइल में बताई जाती है।

[टोकन प्रति सेकंड (tokens per second, TPS)](https://broadrouter.com/hi/glossary/tokens-per-second/)

टोकन प्रति सेकंड (TPS) वह दर है जिस पर लैंग्वेज मॉडल आउटपुट टोकन बनाता है, आम तौर पर एक अनुरोध का पहला टोकन आने के बाद नापी जाती है। यह तय करती है कि शुरू होकर जवाब कितना तेज़ स्ट्रीम होगा। सभी कॉन्करेंट अनुरोधों का जोड़ सिस्टम थ्रूपुट है; पहले टोकन से पहले का इंतज़ार अलग नापा जाता है।

[base URL](https://broadrouter.com/hi/glossary/base-url/)

base URL किसी API का तय मूल पता है, जैसे https://api.example.com/v1, जिसे क्लाइंट /chat/completions जैसे हर एंडपॉइंट पाथ के आगे जोड़ता है। OpenAI-compatible SDK में base URL को API key और मॉडल ID के साथ बदलने से वही कोड किसी दूसरे प्रोवाइडर से जुड़ जाता है।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

## अक्सर पूछे जाने वाले सवाल

### Azure OpenAI का SLA क्या है?

Azure OpenAI मॉडल, Azure द्वारा बेचे जाने वाले Foundry Models हैं, जिनके बारे में Microsoft कहता है कि वे Azure SLA से कवर हैं। अक्टूबर 2026 का समेकित SLA Foundry Models को 99.9% मासिक अपटाइम से नीचे 10% और 99% से नीचे 25% सर्विस क्रेडिट देता है। Developer टियर कवर नहीं है। Provisioned Managed डिप्लॉयमेंट और Priority Processing में टोकन-प्रति-सेकंड लेटेंसी SLA भी है, 99% से कम उपलब्धि पर 10% क्रेडिट के साथ।

### क्या OpenAI API का कोई अपटाइम SLA है?

OpenAI, Scale Tier के लिए 99.9% अपटाइम SLA और एक लेटेंसी SLA प्रकाशित करता है, जिसे वह "available to Enterprise customers" (अनुवाद: Enterprise ग्राहकों के लिए उपलब्ध) बताता है और कम से कम 30 दिन के लिए टोकन यूनिट में बेचता है। GPT-5.6 और बाद के मॉडलों के लिए वह Reserved Tier की ओर इशारा करता है। स्टैंडर्ड उपयोग के अनुसार भुगतान वाले API इस्तेमाल के लिए हमें कोई अपटाइम SLA नहीं मिला।

### Amazon Bedrock का SLA क्या है?

मासिक अपटाइम 99.9% से नीचे जाने पर AWS उस रीजन के Bedrock शुल्क का 10%, 99.0% से नीचे 25% और 95.0% से नीचे 100% क्रेडिट करता है। उपलब्धता हर रीजन में 5 मिनट के अंतराल पर मापी जाती है, और एरर वह अनुरोध है जो 500 एरर कोड लौटाता है।

### क्या Anthropic, Claude API के लिए SLA देता है?

अपनी सार्वजनिक Commercial Terms में नहीं। वे शर्तें सर्विस "as is" और "as available" देती हैं और इस बात से इनकार करती हैं कि इस्तेमाल बिना रुकावट होगा। बातचीत से तय एंटरप्राइज़ कॉन्ट्रैक्ट सार्वजनिक नहीं हैं, इसलिए Anthropic से पूछें, या Claude को ऐसे क्लाउड के ज़रिए इस्तेमाल करें जिसका SLA उसे कवर करता हो।

### 99.9% अपटाइम में कितना डाउनटाइम हो सकता है?

30 दिन के महीने में लगभग 43 मिनट: 43,200 मिनट का 0.1%। 99.5% में 216 मिनट और 99% में 432 मिनट। डाउनटाइम कैसे मापा जाता है, यह प्रतिशत जितना ही अहम है।

### क्या BroadNet Inference का कोई SLA है?

सेल्फ़-सर्व पर नहीं। BroadNet की शर्तें कहती हैं "self-serve has no availability commitment" (अनुवाद: सेल्फ़-सर्व पर उपलब्धता की कोई प्रतिबद्धता नहीं है) और "Service levels exist only in a separate written agreement" (अनुवाद: सर्विस लेवल सिर्फ़ अलग लिखित समझौते में होते हैं), जैसे किसी प्राइवेट एंडपॉइंट के लिए।

## आगे पढ़ें

-   [LLM API में 429 एरर कैसे सँभालें: बैकऑफ़, जिटर और लिमिटर](https://broadrouter.com/hi/blog/handle-llm-api-429-rate-limits/)
-   [LLM API प्रोवाइडर कैसे चुनें: 20 सवालों की चेकलिस्ट](https://broadrouter.com/hi/blog/choose-llm-api-provider-checklist/)
-   [प्राइवेट एंडपॉइंट की शुरुआत साफ़ वर्कलोड से होती है](https://broadrouter.com/hi/blog/private-endpoint-planning/)
-   [BroadNet का GPU हार्डवेयर और सर्विंग का तरीक़ा, BroadNet के शब्दों में](https://broadrouter.com/hi/blog/broadnet-gpu-fleet-and-serving/)
-   [LLM लेटेंसी: TTFT, टोकन प्रति सेकंड और एंड-टू-एंड समय](https://broadrouter.com/hi/blog/llm-latency-ttft-throughput/)
-   [Artificial Analysis के विकल्प: 2026 में LLM की तुलना कहाँ करें](https://broadrouter.com/hi/blog/artificial-analysis-alternatives/)
-   [BroadNet ने किन मॉडलों को परखकर ख़ारिज किया, और क्यों](https://broadrouter.com/hi/blog/models-broadnet-ruled-out/)
-   [गाइड: BroadNet Inference के एरर कोड और रीट्राई कब करें](https://broadrouter.com/hi/guides/errors-and-retries/)
-   [गाइड: chat completions स्ट्रीम करें और टूटे कनेक्शन सँभालें](https://broadrouter.com/hi/guides/streaming-chat-completions/)

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-blog-llm-api-sla-uptime-compared&utm_content=page-cta) ·

**स्रोत**

-   [Microsoft, Service Level Agreements for Online Services, अक्टूबर 2026 का समेकित SLA: Foundry Models सेक्शन (2026-11-15 को जाँचा गया)](https://www.microsoft.com/licensing/docs/view/Service-Level-Agreements-SLA-for-Online-Services)
-   [Microsoft Learn, Azure द्वारा बेचे जाने वाले Foundry Models: "They include all Azure OpenAI models … covered by Azure service-level agreements" (2026-10-29 को अपडेट; 2026-11-15 को जाँचा गया)](https://learn.microsoft.com/en-us/azure/ai-foundry/foundry-models/concepts/models-sold-directly-by-azure)
-   [AWS, Amazon Bedrock Service Level Agreement (आख़िरी अपडेट 4 अक्टूबर 2023; 2026-11-15 को जाँचा गया)](https://aws.amazon.com/bedrock/sla/)
-   [Google Cloud, Gemini Enterprise Agent Platform पर Gemini Online Inference API का SLA (आख़िरी बदलाव 30 जून 2026; 2026-11-15 को जाँचा गया)](https://cloud.google.com/vertex-ai/generative-ai/sla)
-   [Google Cloud, Vertex AI Platform SLA (आख़िरी बदलाव 12 फ़रवरी 2026; 2026-11-15 को जाँचा गया)](https://cloud.google.com/vertex-ai/sla)
-   [OpenAI, Scale Tier for API Customers (openai.com ने हमारे फ़ेचर को HTTP 403 लौटाया; Internet Archive के 7 नवंबर 2026 के कैप्चर से पढ़ा गया, 2026-11-15 को जाँचा गया)](https://web.archive.org/web/20261107081103/https://openai.com/api-scale-tier/)
-   [Anthropic, Commercial Terms of Service, 17 जून 2025 से लागू, सेक्शन I.3 और L.2 (2026-11-15 को जाँचा गया)](https://www.anthropic.com/legal/commercial-terms)
-   [Fireworks AI कीमतें, Reserved Throughput: "Throughput SLA and 99.9% uptime terms" (2026-11-15 को जाँचा गया)](https://fireworks.ai/pricing)
-   [Together AI कीमतें: SLA सिर्फ़ Provisioned Throughput के साथ; सर्वरलेस के लिए कोई SLA नहीं बताया गया (2026-11-15 को जाँचा गया)](https://www.together.ai/pricing)
-   [BroadNet सेवा की शर्तें, §7.4 उपलब्धता (2026-11-15 को जाँचा गया) (अंग्रेज़ी में)](https://www.broadnet.ai/terms)
