BroadRouter

IP allow-list से API key को अपने सर्वर तक सीमित करें

अपडेट किया गया

अपने सर्वरों के बाहर जाने वाले (egress) IPv4 या IPv6 पते या CIDR रेंज अकाउंट allow-list में जोड़ें, अधिकतम 32 एंट्री। नई key यह सूची अपने-आप ले लेती हैं, जब तक आप key बनाते समय allowed_ips न दें। दूसरे पतों से आए अनुरोधों को 403 मिलता है, और allow-list में बदलाव या key रद्द करना पाँच सेकंड के अंदर लागू हो जाता है।

API का बिल बेक़ाबू होने की सबसे आम वजह लीक हुई key है। BroadNet Inference आपको दो नियंत्रण देता है: IP allow-list और तेज़ी से key रद्द करना।

दो तरह के क्रेडेंशियल

क्रेडेंशियल किस काम के लिए इसे क्या समझें
इन्फ़रेंस key /v1/* पर मॉडल अनुरोध एक ऐप या एजेंट का सीक्रेट
पोर्टल क्रेडेंशियल अकाउंट ऑटोमेशन: key, allowed IP, ख़रीदारी अकाउंट का पूरा अधिकार

दोनों सिर्फ़ एक बार दिखाए जाते हैं। पोर्टल सिर्फ़ SHA-256 हैश रखता है, इसलिए वह key दोबारा नहीं दिखा सकता। उपयोग के अनुसार भुगतान वाली इन्फ़रेंस key बनने की तारीख़ से एक साल चलती है, और एक अकाउंट में अधिकतम दस लाइव key हो सकती हैं।

allow-list सेट करें

अकाउंट पेज पर हर लाइन में एक IPv4 या IPv6 पता या CIDR रेंज जोड़ें, अधिकतम 32 एंट्री। ख़ाली सूची का मतलब है कोई IP पाबंदी नहीं। नई key यही अकाउंट सूची अपने-आप ले लेती हैं। हर API अनुरोध पर edge वह क्लाइंट IP जाँचता है जो Cloudflare बताता है।

स्क्रिप्ट से अकाउंट सूची मैनेज करने के लिए PUT /portal/allowed_ips एक ही कॉल में पूरी सूची बदल देता है (पोर्टल क्रेडेंशियल ज़रूरी)।

पोर्टल क्रेडेंशियल से key बनाते समय उसे उसकी अपनी सूची दें:

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"worker-1","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

प्रति-key allowed_ips उस key के लिए अकाउंट से मिली सूची की जगह ले लेता है। रिस्पॉन्स में असली key सिर्फ़ एक बार आती है; उसे तुरंत सहेज लें।

लीक हुई key तुरंत रद्द करें

DELETE /portal/keys/{alias} उपयोग के अनुसार भुगतान वाली key रद्द करता है, और DELETE /portal/keys/hourly/{alias} hourly key रद्द करता है (मूल ख़रीदारी का शुल्क वापस नहीं होता)। key रद्द करने या allow-list बदलने के बाद, पाँच सेकंड के अंदर नए अनुरोध रुक जाते हैं।

curl -X DELETE https://inference.broadnet.ai/portal/keys/$KEY_ALIAS \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL"

KEY_ALIAS को वह alias दें जो अकाउंट पेज पर या GET /portal/keys में उस key के लिए दिखता है। alias सीक्रेट key नहीं है। अगर पोर्टल क्रेडेंशियल लीक हो जाए, तो उसे DELETE /portal/credentials/{id} से रद्द करें: वह सब कुछ कर सकता है जो आपका अकाउंट कर सकता है।

समस्या का समाधान

  • सूची में डाले गए सर्वर से 403. edge आपका सार्वजनिक egress पता देखता है, सर्वर का प्राइवेट IP नहीं। NAT गेटवे, प्रॉक्सी या लोड बैलेंसर के पीछे के सर्वर उसी डिवाइस के पते से बाहर निकलते हैं। IPv6 वाला सर्वर IPv6 से बाहर जा सकता है, भले ही आपने सिर्फ़ उसका IPv4 पता डाला हो। वह पता डालें जिससे अनुरोध असल में बाहर जाता है, या उसे कवर करने वाली CIDR रेंज।
  • नई key अकाउंट सूची को नज़रअंदाज़ करती है। प्रति-key allowed_ips ऐरे उस key के लिए अकाउंट से मिली सूची की जगह ले लेता है। देखें कि key बनाते समय आपने क्या दिया था।
  • 409 key_limit_reached. अकाउंट में पहले से दस लाइव key हैं। जो key अब इस्तेमाल नहीं होती, उसे रद्द करें।
  • रद्द करने के कुछ सेकंड बाद भी अनुरोध सफल होते हैं। कैश के अपडेट होने तक, पाँच सेकंड तक ऐसा होना अपेक्षित है।

सूची से बाहर के पते से आए अनुरोध को 403 मिलता है। BroadNet के सभी एरर कोड और कब रीट्राई करें देखें। नई key से पहला अनुरोध भेजने के लिए OpenAI Python SDK गाइड देखें। IP allow-list की शब्दावली एंट्री यह विचार सामान्य शब्दों में समझाती है।

A metal key whose bow is shaped like curly braces { }, with the text "One API key. More possibilities."

अक्सर पूछे जाने वाले सवाल

LLM API key को अपने सर्वर के IP पते तक कैसे सीमित करें?

सर्वर का सार्वजनिक egress पता, या कोई CIDR रेंज, BroadNet अकाउंट पेज पर अकाउंट allow-list में जोड़ें, या POST /portal/keys से key बनाते समय allowed_ips दें। किसी भी दूसरे पते से आए अनुरोध 403 के साथ अस्वीकार होते हैं।

क्या ख़ाली allow-list सब कुछ ब्लॉक कर देती है?

नहीं। ख़ाली सूची का मतलब है कोई IP पाबंदी नहीं, इसलिए key किसी भी पते से चलती है। पाबंदी चालू करने के लिए कम से कम एक एंट्री जोड़ें।

क्या मैं इन्फ़रेंस key से दूसरी key बना सकता हूँ?

नहीं। इन्फ़रेंस key सिर्फ़ /v1/* मॉडल रूट कॉल करती हैं। key बनाने और रद्द करने, allowed IP बदलने और hourly key ख़रीदने के लिए पोर्टल क्रेडेंशियल चाहिए, जिसके पास अकाउंट का पूरा अधिकार होता है।

लीक हुई key रद्द करना कितनी जल्दी असर करता है?

BroadNet के डॉक्स कहते हैं कि key रद्द करने या allow-list बदलने के पाँच सेकंड के अंदर नए अनुरोध रुक जाते हैं, क्योंकि अनुमति के फ़ैसले इतनी देर तक एक रेप्लिकेटेड कैश में रह सकते हैं।

Markdown में पढ़ेंChatGPT से पूछेंClaude से पूछेंPerplexity से पूछें