LLM पर बनाने वाली हर टीम यह फ़ैसला करती है, अक्सर बिना ध्यान दिए: closed मॉडल, जिन तक आप सिर्फ़ एक वेंडर के API से पहुँच सकते हैं, या open-weight मॉडल, जिनके weights कोई भी डाउनलोड करके चला सकता है। यह फ़ैसला आपके बिल, आपके डेटा के रास्ते, आपके प्रोडक्ट की स्थिरता, और छोड़कर जाना कितना मुश्किल है, इन सब पर असर डालता है।
open-weight का असल में मतलब क्या है?
एक open-weight मॉडल अपने ट्रेन किए गए पैरामीटर प्रकाशित करता है। आप, या कोई भी प्रोवाइडर, उसे चला सकता है। यह open source से संकरा है: ट्रेनिंग डेटा और पूरी ट्रेनिंग पाइपलाइन आम तौर पर जारी नहीं की जाती।
लाइसेंस अलग-अलग होते हैं। कुछ उदार हैं: उदाहरण के लिए, OpenAI का Whisper कोड और weights MIT लाइसेंस के तहत जारी करता है। दूसरे व्यावसायिक इस्तेमाल, यूज़र संख्या या इस्तेमाल के क्षेत्रों पर रोक लगाते हैं। किसी भी मॉडल पर बनाने से पहले उसका लाइसेंस पढ़ें।
closed मॉडल के weights वेंडर के पास रहते हैं। आप उसके API से, या वेंडर के लाइसेंस वाले क्लाउड से, पहुँच किराए पर लेते हैं।
open-weight बनाम closed मॉडल की तुलना
| पहलू | Open-weight | Closed |
|---|---|---|
| शीर्ष क्वालिटी | frontier से कुछ महीने पीछे | आम तौर पर सबसे कठिन टास्क पर आगे |
| प्रति टोकन कीमत | अक्सर कम; होस्ट एक ही मॉडल पर मुक़ाबला करते हैं | एक वेंडर तय करता है |
| कहाँ चलता है | आपके सर्वर, किराए का GPU या कोई भी होस्ट | वेंडर का API या लाइसेंस वाले क्लाउड |
| प्राइवेसी विकल्प | Self-host, या ज़ीरो डेटा रिटेंशन वाला होस्ट चुनें | वेंडर की शर्तें और tiers |
| वर्शन स्थिरता | सटीक weights को जब तक चाहें pin करें | वेंडर अपने शेड्यूल पर वर्शन रिटायर करता है |
| कस्टमाइज़ेशन | ख़ुद फ़ाइन-ट्यून या quantise करें | सिर्फ़ वही जो वेंडर देता है |
| Lock-in | कम: कई होस्ट वही weights सर्व करते हैं | ज़्यादा: हर मॉडल का एक वेंडर |
| ऑपरेशन | self-host करें तो आपकी ज़िम्मेदारी | वेंडर की ज़िम्मेदारी |
क्वालिटी का अंतर कितना बड़ा है?
पहले से छोटा, लेकिन असली। Stanford के 2025 AI Index ने बताया कि Chatbot Arena लीडरबोर्ड पर शीर्ष closed मॉडल की शीर्ष open-weight मॉडल पर बढ़त जनवरी 2024 की शुरुआत के 8.04% से गिरकर फ़रवरी 2025 तक 1.70% रह गई। Epoch AI ने 29 मई 2026 को अनुमान लगाया कि “the most capable open-weight models have lagged frontier closed models by an average of four months” (अनुवाद: सबसे सक्षम open-weight मॉडल frontier closed मॉडलों से औसतन चार महीने पीछे रहे हैं), जिसे उसके Epoch Capabilities Index पर मापा गया।
व्यवहार में:
- वर्गीकरण, extraction, सारांश, अनुवाद, रोज़मर्रा की चैट: open-weight मॉडल आम तौर पर काफ़ी अच्छे हैं, और सस्ते।
- कोडिंग एजेंट और लंबे दस्तावेज़: मज़बूत open-weight विकल्प मौजूद हैं; अपनी repos पर टेस्ट करें। कोडिंग एजेंट के लिए सबसे अच्छा open मॉडल देखें।
- सबसे कठिन reasoning और सबसे नई क्षमताएँ: वहाँ अक्सर closed मॉडल पहले पहुँचते हैं।
लीडरबोर्ड औसत होते हैं। आपके 50 असली टेस्ट केस ही वह बेंचमार्क हैं जो मायने रखता है।
open-weight मॉडल चलाने के तीन तरीक़े क्या हैं?
| विकल्प | कब सबसे अच्छा | किस पर नज़र रखें |
|---|---|---|
| अपने GPU पर self-host | डेटा आपके नेटवर्क से बाहर नहीं जाना चाहिए; GPU व्यस्त रहते हैं | हार्डवेयर, ड्राइवर, स्केलिंग, सिक्योरिटी, अपग्रेड |
| समर्पित GPU किराए पर | स्थिर लोड, कस्टम weights | आप ख़ाली घंटों का भी भुगतान करते हैं |
| होस्टेड open-weight API | उतार-चढ़ाव वाला या बढ़ता ट्रैफ़िक; तेज़ शुरुआत | आप होस्ट के रिटेंशन और uptime पर भरोसा करते हैं |
Self-hosting प्रति टोकन मुफ़्त दिखती है, लेकिन GPU का ख़र्च उतना ही है चाहे वह घंटे में एक अनुरोध सर्व करे या हज़ार। यह ऊँचे, स्थिर इस्तेमाल पर ही फ़ायदेमंद है। उससे नीचे, प्रति-टोकन API या फ़्लैट-रेट प्लान आम तौर पर सस्ता है।
open-weight मॉडल का हर महीने कितना ख़र्च आता है?
होस्टेड open-weight मॉडलों की प्रति-टोकन कीमतें निकालना आसान है। BroadNet के ज़रिए DeepSeek V4.1 Flash पर हर महीने 100 मिलियन इनपुट और 10 मिलियन आउटपुट टोकन के लिए:
100 x $0.175 + 10 x $0.52 प्रति महीना, किसी भी cache छूट से पहले।
यही हिसाब अपने closed वेंडर की प्रकाशित प्रति-मिलियन कीमतों और अपनी असली टोकन संख्या के साथ करें, या हमारी open-weight बनाम closed मॉडल API लागत तुलना से शुरू करें, जो एक वर्कलोड की कीमत GPT, Claude, Gemini, Grok और पाँच open मॉडलों पर निकालती है। cached इनपुट नतीजे को काफ़ी बदल देता है: इस मॉडल पर cached टोकन $0.0055 प्रति मिलियन के हैं। LLM API कॉस्ट कैलकुलेटर यह हर BroadNet मॉडल के लिए करता है, और LLM API pricing टेबल बताती है कि दूसरे होस्ट उन्हीं open weights के लिए कितना लेते हैं।
lock-in दिखने से ज़्यादा मायने क्यों रखता है?
जब कोई closed वेंडर कीमतें बढ़ाता है, डेटा शर्तें बदलता है या वह मॉडल रिटायर करता है जिसके लिए आपके प्रॉम्प्ट ट्यून हैं, तो आपके पास दो ही रास्ते हैं: मान लें या दोबारा लिखें। open-weight मॉडल के साथ आप वही weights किसी दूसरे होस्ट पर, या अपने यहाँ, ले जा सकते हैं और वही व्यवहार बनाए रख सकते हैं।
इस विकल्प को असली बनाए रखने के लिए:
- मॉडलों को OpenAI-compatible SDK से कॉल करें, base URL और मॉडल ID कॉन्फ़िग में रखकर।
- एक regression टेस्ट सेट रखें और हर प्रोवाइडर बदलाव पर उसे चलाएँ।
- चाहें तो आगे LiteLLM जैसा router लगाएँ, ताकि बदलना सिर्फ़ कॉन्फ़िग का बदलाव हो।
बिज़नेस open और closed मॉडल को कैसे मिलाते हैं?
ज़्यादातर बिज़नेस आख़िर में दोनों इस्तेमाल करते हैं:
- ज़्यादा मात्रा वाले, साफ़-परिभाषित टास्क (extraction, triage, सारांश, एजेंट के रोज़मर्रा के चरण) open-weight मॉडल पर भेजें।
- दुर्लभ, कठिन टास्क closed frontier मॉडल पर भेजें।
- हर तिमाही दोबारा टेस्ट करें। Epoch जो अंतर मापता है, उसे देखते हुए समय के साथ टास्क दूसरी लिस्ट से पहली में आते जाते हैं।
BroadNet Inference कहाँ फ़िट होता है
BroadNet Inference एक होस्टेड open-weight API है: DeepSeek V4.1 Flash, GLM 5.3, Qwen3.8 27B और Google के Gemma 4 का BroadNet build, साथ में दो speech-to-text मॉडल, सब एक OpenAI-compatible endpoint से। उसका प्राइवेसी स्टेटमेंट कहता है कि वह कोई प्रॉम्प्ट या आउटपुट नहीं रखता और inference डेटा का इस्तेमाल मॉडलों की ट्रेनिंग, फ़ाइन-ट्यूनिंग या मूल्यांकन में नहीं करता। DeepSeek V4.1 Flash फ़्लैट प्लान पर भी उपलब्ध है, प्रति सेशन $1 प्रति घंटे से $60 प्रति महीने तक।
यह closed मॉडल सर्व नहीं करता। अगर किसी टास्क को GPT, Claude या Gemini चाहिए, तो उस रूट के लिए उन वेंडरों को इस्तेमाल करें और बाक़ी को open weights पर रखें। BroadNet को दूसरे प्रोवाइडरों के साथ तौलने के लिए 20 बिंदुओं वाली प्रोवाइडर चेकलिस्ट इस्तेमाल करें।
