---
title: "Vercel AI SDK: कस्टम base URL के साथ createOpenAICompatible"
description: "@ai-sdk/openai-compatible के createOpenAICompatible से Vercel AI SDK में BroadNet Inference कॉल करें: generateText, streamText, टूल और reasoning effort।"
url: https://broadrouter.com/hi/guides/vercel-ai-sdk-openai-compatible/
lang: hi
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

यह पेज अंग्रेज़ी से AI की मदद से अनुवाद किया गया है। [अंग्रेज़ी मूल पढ़ें](https://broadrouter.com/guides/vercel-ai-sdk-openai-compatible/) (2026-11-16 को अपडेट किया गया).

# BroadNet Inference के साथ Vercel AI SDK इस्तेमाल करें

अपडेट किया गया 2026-11-16

ai और @ai-sdk/openai-compatible इंस्टॉल करें, फिर createOpenAICompatible को name broadnet, baseURL https://inference.broadnet.ai/v1 और apiKey में अपनी BroadNet key के साथ कॉल करें। प्रोवाइडर को broadnet/glm-5.3 जैसा BroadNet मॉडल ID दें और generateText या streamText हमेशा की तरह इस्तेमाल करें। key सर्वर पर रखें, और रीज़निंग मॉडल को खुला maxOutputTokens दें।

Vercel का [AI SDK](https://ai-sdk.dev/providers/openai-compatible-providers) LLM ऐप बनाने के लिए एक TypeScript टूलकिट है। इसका `@ai-sdk/openai-compatible` पैकेज OpenAI chat-completions फ़ॉर्मैट मानने वाले किसी भी API के लिए प्रोवाइडर बनाता है। BroadNet Inference यही फ़ॉर्मैट मानता है, इसलिए आपको सिर्फ़ base URL, key और मॉडल ID बदलने हैं। अगर आप सादा OpenAI क्लाइंट इस्तेमाल करना चाहते हैं, तो [Node SDK गाइड](https://broadrouter.com/hi/guides/openai-node-sdk/) देखें।

## सेटअप

1.  **पैकेज इंस्टॉल करें।** यह लिखते समय npm पर `ai` 7.x और `@ai-sdk/openai-compatible` 3.x उपलब्ध हैं।
    
    ```bash
    npm install ai @ai-sdk/openai-compatible
    export BROADNET_API_KEY='your-broadnet-key'
    ```
    
2.  **प्रोवाइडर बनाएँ।** नीचे `includeUsage` वाली टिप्पणी का मतलब है कि स्ट्रीमिंग रिस्पॉन्स में usage डेटा आएगा।
    
    ```ts
    // broadnet.ts
    import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
    
    export const broadnet = createOpenAICompatible({
      name: 'broadnet',
      baseURL: 'https://inference.broadnet.ai/v1',
      apiKey: process.env.BROADNET_API_KEY,
      includeUsage: true, // usage data in streaming responses
    });
    ```
    
3.  **टेक्स्ट जनरेट करें।** `maxOutputTokens` वाली टिप्पणी याद दिलाती है कि रीज़निंग भी इसी सीमा में गिनी जाती है।
    
    ```ts
    import { generateText } from 'ai';
    import { broadnet } from './broadnet';
    
    const { text, usage, finishReason } = await generateText({
      model: broadnet('broadnet/glm-5.3'),
      prompt: 'Explain idempotency keys in two sentences.',
      maxOutputTokens: 4000, // reasoning counts toward this
    });
    
    console.log(text, finishReason, usage);
    ```
    
4.  **स्ट्रीम करें।** `generateText` की जगह `streamText` लगाएँ और `textStream` पढ़ें। नीचे का वायर फ़ॉर्मैट [स्ट्रीमिंग गाइड](https://broadrouter.com/hi/guides/streaming-chat-completions/) में समझाया गया है।
    

आप जो `name` देते हैं, वही प्रोवाइडर ऑप्शन और प्रोवाइडर मेटाडेटा की key बन जाता है, इसलिए इसे छोटा और स्थिर रखें। `provider('id')` और `provider.chatModel('id')` दोनों चैट मॉडल बनाते हैं; हर मॉडल के लिए अलग सेटअप नहीं है। key सर्वर पर रखें। इस फ़ाइल को ब्राउज़र में चलने वाले कोड में import न करें, वरना key हर विज़िटर तक पहुँच जाएगी।

प्रोवाइडर डॉक्स टेक्स्ट जनरेशन, स्ट्रीमिंग, टूल कॉलिंग, स्ट्रक्चर्ड आउटपुट, रीज़निंग कंटेंट और इमेज इनपुट को सपोर्टेड क्षमताएँ बताते हैं, इस नोट के साथ कि इनमें से कुछ प्रोवाइडर पर निर्भर हैं। BroadNet पर इमेज इनपुट DeepSeek V4.1 Flash, Qwen3.8 27B और Gemma 4 VL 26B के साथ चलता है। GLM 5.3 सिर्फ़ टेक्स्ट लेता है।

## सेट करने लायक विकल्प

-   **reasoningEffort.** इसे `providerOptions` से पास करें, प्रोवाइडर के नाम की key के नीचे। AI SDK के डॉक्स कहते हैं कि सटीक वैल्यू प्रोवाइडर पर निर्भर हैं; BroadNet के डॉक्स `low` दिखाते हैं।

```ts
const result = await generateText({
  model: broadnet('broadnet/deepseek-v4.1-flash'),
  prompt: 'Classify: "refund my order" -> intent?',
  providerOptions: { broadnet: { reasoningEffort: 'low' } },
});
```

-   **supportsStructuredOutputs.** AI SDK, JSON schema सिर्फ़ तभी भेजता है जब प्रोवाइडर पर यह `true` हो। BroadNet, स्ट्रक्चर्ड आउटपुट GLM 5.3 और Qwen3.8 27B के लिए सूचीबद्ध करता है। इसे चालू करें, तो schema वाले आउटपुट के लिए यही मॉडल इस्तेमाल करें।
-   **maxRetries.** `generateText` डिफ़ॉल्ट रूप से दो बार रीट्राई करता है। इसे अपनी रेट लिमिट के हिसाब से सेट करें।
-   **रीज़निंग आउटपुट.** प्रोवाइडर रीज़निंग कंटेंट लौटाए, तो AI SDK उसे पढ़ता है। टॉप-लेवल `reasoningText` रिज़ल्ट फ़ील्ड अब deprecated है और उसकी जगह `finalStep.reasoningText` है। ऐसा लॉजिक न बनाएँ जो रीज़निंग के मौजूद होने पर टिका हो।

## कौन-सा मॉडल चुनें

| ज़रूरत | मॉडल | कॉन्टेक्स्ट |
| --- | --- | --- |
| टूल कॉलिंग, स्ट्रक्चर्ड आउटपुट | [`broadnet/glm-5.3`](https://broadrouter.com/hi/models/glm-5.3/) | 1,048,576 |
| इमेज के साथ टूल, अरबी | [`broadnet/qwen3.8-27b`](https://broadrouter.com/hi/models/qwen3.8-27b/) | 262,144 |
| लंबा कॉन्टेक्स्ट, फ़्लैट-रेट प्लान | [`broadnet/deepseek-v4.1-flash`](https://broadrouter.com/hi/models/deepseek-v4.1-flash/) | 1,048,576 |
| सस्ती टेक्स्ट और इमेज कॉल | [`broadnet/gemma-4-26b-a4b`](https://broadrouter.com/hi/models/gemma-4-vl-26b/) | 32,768 |

हर मॉडल की प्रति-टोकन कीमत [प्राइसिंग पेज](https://broadrouter.com/hi/pricing/) पर है।

## समस्या का समाधान

-   **401.** रनटाइम में `BROADNET_API_KEY` मौजूद नहीं है (अपने होस्टिंग प्रोवाइडर की env सेटिंग देखें), या key ग़लत है, एक्सपायर हो गई है, या उसका उपयोग के अनुसार भुगतान वाला अलाउंस ख़त्म हो गया है।
-   **providerOptions अनदेखा होता है।** key, प्रोवाइडर के `name` से camelCase में मिलनी चाहिए। `name: 'broadnet'` के साथ `providerOptions.broadnet` इस्तेमाल करें।
-   **मॉडल एरर.** ID, `broadnet/` प्रीफ़िक्स समेत, BroadNet के ID से हूबहू मिलना चाहिए। GLM 5.3, Qwen3.8 27B और DeepSeek V4.1 Flash के लिए टॉप-अप चाहिए; $5 शुरुआती क्रेडिट Gemma 4 VL 26B और दो Transcribe मॉडल को कवर करता है।
-   **ख़ाली टेक्स्ट, finishReason “length”.** रीज़निंग ने बजट ख़र्च कर दिया। `maxOutputTokens` बढ़ाएँ या `reasoningEffort` घटाएँ। [जवाब ख़ाली क्यों आते हैं](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)।
-   **लोड के समय 429.** उपयोग के अनुसार भुगतान वाली key प्रति मिनट 30 अनुरोध और एक साथ 4 चालू अनुरोध की अनुमति देती है। सर्वरलेस फ़ंक्शन तेज़ी से स्केल होते हैं, इसलिए अपने ऐप में concurrency की सीमा रखें। [एरर और रीट्राई](https://broadrouter.com/hi/guides/errors-and-retries/) देखें।
-   **प्लान key पर पैरेलल एजेंट.** एक [अनलिमिटेड प्लान सेशन](https://broadrouter.com/hi/guides/unlimited-llm-api-sessions/) एक समय में एक अनुरोध चलाता है। कई एजेंट पर `Promise.all` चलाने के लिए हर एजेंट को अपना सेशन चाहिए, वरना अनुरोध कतार में लगते हैं।

## इस गाइड के शब्द

[उपयोग के अनुसार भुगतान (pay-as-you-go)](https://broadrouter.com/hi/glossary/pay-as-you-go/)

उपयोग के अनुसार भुगतान (pay-as-you-go) एक प्राइसिंग मॉडल है जिसमें आप सिर्फ़ उतना देते हैं जितना इस्तेमाल करते हैं, जिसे टोकन, अनुरोध या ऑडियो मिनट जैसी इकाइयों में मापा जाता है, बिना सब्सक्रिप्शन या न्यूनतम प्रतिबद्धता के। ज़्यादातर LLM API इसी तरह बिल बनाते हैं, प्रीपेड बैलेंस या समय-समय पर बनने वाले इनवॉइस से।

[कॉन्करेंसी (concurrency)](https://broadrouter.com/hi/glossary/concurrency/)

कॉन्करेंसी, किसी क्लाइंट के एक ही समय पर चल रहे (in-flight) अनुरोधों की संख्या है। LLM API अक्सर इसकी सीमा हर key या प्लान पर, प्रति मिनट अनुरोधों से अलग रखते हैं, क्योंकि हर खुला अनुरोध जवाब पूरा होने तक GPU क्षमता घेरे रहता है।

[स्ट्रीमिंग (streaming)](https://broadrouter.com/hi/glossary/streaming/)

स्ट्रीमिंग, लैंग्वेज मॉडल के जवाब को अंत में एक साथ लौटाने के बजाय, बनते समय ही छोटे-छोटे टुकड़ों (chunks) में लौटाने का तरीक़ा है। OpenAI-कम्पैटिबल API, अनुरोध में stream को true सेट करने पर server-sent events से स्ट्रीम करते हैं।

[स्ट्रक्चर्ड आउटपुट (structured output)](https://broadrouter.com/hi/glossary/structured-output/)

स्ट्रक्चर्ड आउटपुट LLM API का एक फ़ीचर है जो मॉडल के जवाब को डेवलपर के तय फ़ॉर्मैट, आम तौर पर JSON Schema, तक सीमित करता है, ताकि कोड उसे भरोसे से पार्स कर सके। यह JSON mode से सख़्त है, जो मान्य JSON की गारंटी देता है, लेकिन किसी ख़ास ढाँचे की नहीं।

[AI एजेंट (AI agent)](https://broadrouter.com/hi/glossary/agent/)

AI एजेंट ऐसा सिस्टम है जिसमें लैंग्वेज मॉडल किसी लक्ष्य की ओर अपने क़दम ख़ुद तय करता है: कौन-से टूल कॉल करने हैं, चुनता है, नतीजे पढ़ता है और अंतिम जवाब या किसी सीमा तक दोहराता रहता है। तय बिंदुओं पर मॉडल को कॉल करने वाली स्क्रिप्ट को आम तौर पर workflow कहते हैं।

[टूल कॉलिंग (tool calling)](https://broadrouter.com/hi/glossary/tool-calling/)

टूल कॉलिंग, जिसे function calling भी कहते हैं, LLM API की वह सुविधा है जिसमें मॉडल डेवलपर के तय किए किसी फ़ंक्शन को चलाने का एक स्ट्रक्चर्ड अनुरोध, JSON आर्ग्युमेंट के साथ, लौटाता है। ऐप्लिकेशन फ़ंक्शन चलाकर नतीजा वापस भेजता है; मॉडल ख़ुद कभी कोड नहीं चलाता।

[रेट लिमिट (rate limit)](https://broadrouter.com/hi/glossary/rate-limit/)

रेट लिमिट वह सीमा है जो कोई API तय करता है कि एक क्लाइंट किसी समय-अवधि में उसका कितना इस्तेमाल कर सकता है, जैसे प्रति मिनट अनुरोध या प्रति मिनट टोकन। सीमा से ऊपर के अनुरोध ठुकरा दिए जाते हैं, आम तौर पर HTTP 429 Too Many Requests के साथ, जब तक इस्तेमाल फिर सीमा के नीचे न आ जाए।

[base URL](https://broadrouter.com/hi/glossary/base-url/)

base URL किसी API का तय मूल पता है, जैसे https://api.example.com/v1, जिसे क्लाइंट /chat/completions जैसे हर एंडपॉइंट पाथ के आगे जोड़ता है। OpenAI-compatible SDK में base URL को API key और मॉडल ID के साथ बदलने से वही कोड किसी दूसरे प्रोवाइडर से जुड़ जाता है।

## अक्सर पूछे जाने वाले सवाल

### @ai-sdk/openai इस्तेमाल करूँ या @ai-sdk/openai-compatible?

थर्ड-पार्टी OpenAI-कम्पैटिबल API के लिए @ai-sdk/openai-compatible इस्तेमाल करें। यह chat completions एंडपॉइंट कॉल करता है, और BroadNet Inference यही देता है।

### जनरेट हुआ टेक्स्ट ख़ाली क्यों है?

BroadNet पर रीज़निंग, max\_tokens में गिनी जाती है। अगर maxOutputTokens छोटा है, तो मॉडल जवाब शुरू होने से पहले ही उसे पूरा ख़र्च कर सकता है। इसे बढ़ाएँ या reasoningEffort को low पर सेट करें।

### स्ट्रीमिंग के दौरान टोकन usage कैसे मिले?

प्रोवाइडर बनाते समय includeUsage को true पर सेट करें। AI SDK के डॉक्स कहते हैं कि इससे स्ट्रीमिंग रिस्पॉन्स में usage डेटा जुड़ जाता है। इसका डिफ़ॉल्ट false है।

### क्या हर BroadNet मॉडल के लिए अलग सेटअप चाहिए?

नहीं। एक createOpenAICompatible प्रोवाइडर सभी मॉडल कवर करता है। किसी भी BroadNet चैट मॉडल ID के साथ broadnet('model-id') या broadnet.chatModel('model-id') कॉल करें।

## संबंधित गाइड

-   [BroadNet Inference के साथ OpenAI Node.js SDK इस्तेमाल करें](https://broadrouter.com/hi/guides/openai-node-sdk/)
-   [chat completions स्ट्रीम करें और टूटे कनेक्शन सँभालें](https://broadrouter.com/hi/guides/streaming-chat-completions/)
-   [रीज़निंग मॉडल ख़ाली जवाब क्यों लौटाता है](https://broadrouter.com/hi/guides/reasoning-tokens-empty-response/)
-   [opencode में BroadNet Inference को कस्टम प्रोवाइडर के रूप में जोड़ें](https://broadrouter.com/hi/guides/opencode-custom-provider/)
-   [BroadNet Inference के साथ काम करने वाले सभी टूल (अंग्रेज़ी में)](https://broadrouter.com/integrations/): SDK, कोडिंग एजेंट, चैट UI और ऑटोमेशन टूल, हर एक की सटीक सेटिंग के साथ

इसे अपने असली वर्कलोड पर आज़माएँ। नए अकाउंट Gemma और ट्रांसक्रिप्शन के लिए US$5 के क्रेडिट से शुरू होते हैं। DeepSeek, GLM, और Qwen3.8 के लिए टॉप-अप ज़रूरी है।

[शुरू करें](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-vercel-ai-sdk-openai-compatible&utm_content=page-cta) ·

**स्रोत**

-   [AI SDK डॉक्स, OpenAI Compatible प्रोवाइडर (2026-11-14 को जाँचा गया)](https://ai-sdk.dev/providers/openai-compatible-providers)
-   [AI SDK डॉक्स, generateText रेफ़रंस (2026-11-14 को जाँचा गया)](https://ai-sdk.dev/docs/reference/ai-sdk-core/generate-text)
-   [npm, @ai-sdk/openai-compatible पैकेज (3.x, 2026-11-14 को जाँचा गया)](https://www.npmjs.com/package/@ai-sdk/openai-compatible)
-   [BroadNet Inference API रेफ़रंस (अंग्रेज़ी में)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=hi-guides-vercel-ai-sdk-openai-compatible&utm_content=sources)
