LLM API کلید کو محفوظ رکھنے کے لیے اسے سیکرٹ مینیجر میں رکھیں اور ماڈل کو صرف اپنے سرور سے کال کریں، کبھی براؤزر یا ایپ سے نہیں۔ ہر ورک لوڈ کو اپنی کلید دیں، کلیدیں مقررہ وقت پر روٹیٹ کریں، allow-list سے انہیں اپنے سرور IPs تک محدود کریں، اور لیک شدہ کلید پہلے منسوخ کریں، تحقیق بعد میں۔
یہ پوسٹ ان عادتوں کے بارے میں ہے جو کلیدوں کو محفوظ رکھتی ہیں، ساتھ میں BroadNet Inference کے مخصوص کنٹرولز بھی۔ پورٹل میں مرحلہ وار کلکس کے لیے API کلیدیں اور IP allow-lists گائیڈ دیکھیں؛ بجٹ اور بے قابو لوپس سے بچاؤ کے لیے LLM API خرچ پر کنٹرول دیکھیں۔
LLM API کلید کہاں محفوظ کریں؟
کلیدیں سیکرٹ مینیجر یا اپنے پلیٹ فارم کے انکرپٹڈ سیکرٹس میں رکھیں، کوڈ میں کبھی نہیں۔ OWASP Secrets Management Cheat Sheet تمام آپشنز تفصیل سے بیان کرتی ہے۔ اس کی تنبیہ پر دھیان دیں: انوائرنمنٹ ویری ایبلز “are generally accessible to all processes and may be included in logs or system dumps” (ترجمہ: عموماً تمام پروسیسز کے لیے قابل رسائی ہوتے ہیں اور لاگز یا سسٹم ڈمپس میں شامل ہو سکتے ہیں)، اس لیے جہاں انتخاب ہو، OWASP ماؤنٹ کی گئی سیکرٹ فائلوں یا سیکرٹ اسٹور سے سیکرٹس لانے کو ترجیح دیتا ہے۔ اسٹارٹ اپ پر سیکرٹ مینیجر سے بھرا گیا انوائرنمنٹ ویری ایبل عام درمیانی راستہ ہے۔
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"], # fails loudly if missing
)
os.environ[...] استعمال کریں، ہارڈ کوڈڈ فال بیک والا os.getenv(...) نہیں؛ فال بیک ہی وہ راستہ ہے جس سے کلیدیں Git میں پہنچتی ہیں۔ لوکل ڈیولپمنٹ کے لیے .env فائل ٹھیک ہے، اگر وہ پہلی کمٹ سے ہی .gitignore میں ہو۔ اپنے Git ہوسٹ کی سیکرٹ اسکیننگ اور push protection آن کریں۔ GitHub پر push protection معروف سیکرٹ فارمیٹس والے push کو ریپوزٹری تک پہنچنے سے پہلے ہی روک دیتا ہے؛ صارفین کے لیے push protection پہلے سے آن ہے، لیکن ریپوزٹری کی سطح کا push protection پہلے سے بند ہے اور اسے ریپوزٹری ایڈمنسٹریٹر یا آرگنائزیشن کے مالک کو آن کرنا ہوتا ہے۔
کیا API کلید براؤزر یا موبائل ایپ میں رکھی جا سکتی ہے؟
نہیں۔ کلائنٹ تک بھیجی گئی کوئی بھی چیز نکالی جا سکتی ہے۔ فرنٹ اینڈ کوڈ اور ایپ بنڈلز عوامی ہوتے ہیں، چاہے انہیں کتنا ہی minify یا obfuscate کیا گیا ہو۔ LLM کو اپنے سرور سے کال کریں، اپنے صارفین کی تصدیق وہیں کریں، اور درخواست آگے بھیجنے سے پہلے ہر صارف پر اپنی حدیں لگائیں۔
یہی بات ان ڈیسک ٹاپ ٹولز پر لاگو ہوتی ہے جو آپ دوسروں کو دیتے ہیں۔ اگر ٹیم کے کسی ساتھی کو کوڈنگ ایجنٹ کی رسائی چاہیے تو ایک کلید شیئر کرنے کے بجائے انہیں ان کے اپنے اکاؤنٹ پر ان کی اپنی کلید دیں۔
ہر ورک لوڈ کو الگ کلید کیوں دیں؟
BroadNet Inference پر ایک اکاؤنٹ میں دس تک فعال کلیدیں ہو سکتی ہیں۔ انہیں استعمال کریں:
| کلید کا لیبل | کون استعمال کرتا ہے |
|---|---|
prod-api |
پروڈکشن بیک اینڈ |
prod-worker |
بیچ جابز |
staging |
اسٹیجنگ انوائرنمنٹ |
agent-ci |
CI میں کوڈنگ ایجنٹ |
dev-laptop-<name> |
لوکل ڈیولپمنٹ |
جب کوئی کلید لیک ہو تو آپ صرف اسی کو منسوخ کرتے ہیں، اور باقی کام کرتی رہتی ہیں۔ لیبلز سے استعمال بھی پڑھنا آسان ہو جاتا ہے: آپ دیکھ سکتے ہیں کہ کون سا ورک لوڈ کتنا خرچ کرتا ہے۔ کلیدوں کا نام انہیں استعمال کرنے والی چیز پر رکھیں، انہیں بنانے والے شخص پر نہیں۔
IP allow-list کلید کی حفاظت کیسے کرتی ہے؟
IP allow-list کا مطلب ہے کہ چوری شدہ کلید آپ کے اپنے انفراسٹرکچر کے سوا کہیں کام نہیں کرتی۔ BroadNet Inference پر:
- اکاؤنٹ کی allow-list میں 32 تک اندراجات آ سکتے ہیں، ہر لائن میں ایک IPv4 یا IPv6 پتہ یا CIDR رینج۔
- خالی فہرست کا مطلب ہے کوئی پابندی نہیں۔
- نئی کلیدیں اکاؤنٹ کی فہرست اپنا لیتی ہیں، جب تک آپ اپنی
allowed_ipsکے ساتھ کلید نہ بنائیں؛ ایسی کلید کے لیے وہ فہرست وراثت میں ملی فہرست کی جگہ لے لیتی ہے۔ - فہرست سے باہر کے پتے سے آنے والی درخواست 403 (“refused by model, route or IP policy”؛ ترجمہ: ماڈل، روٹ یا IP پالیسی نے مسترد کیا) کے ساتھ رد کر دی جاتی ہے۔
پورٹل API سے اپنی الگ فہرست والی کلید بنائیں:
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
ریسپانس میں اصل کلید ایک بار آتی ہے۔ اسے فوراً اپنے سیکرٹ مینیجر میں رکھیں؛ اسے دوبارہ پڑھا نہیں جا سکتا۔ مکمل مراحل IP allow-list گائیڈ میں ہیں۔
allow-lists ان سرورز کے لیے موزوں ہیں جن کا egress IP مستحکم ہو: VPS، NAT گیٹ وے، دفتر کا مقررہ IP۔ بدلتے نیٹ ورکس پر چلنے والے لیپ ٹاپس کے لیے فہرست کے بغیر الگ کلید استعمال کریں اور اس پر داؤ پر لگا بیلنس کم رکھیں۔
انفرنس کلیدوں کو ایڈمن اسناد سے الگ کیوں رکھیں؟
BroadNet دو طرح کی اسناد استعمال کرتا ہے:
| سند | کیا کر سکتی ہے | کہاں رکھیں |
|---|---|---|
| انفرنس کلید | /v1/* پر ماڈل درخواستیں |
جہاں بھی ایپ چلتی ہے |
| پورٹل سند | کلیدیں بنانا اور منسوخ کرنا، اجازت یافتہ IPs بدلنا، خریداری کرنا | صرف اپنے آٹومیشن یا ایڈمن ٹولز میں |
دستاویزات کہتی ہیں کہ ہر پورٹل سند کو پورے اکاؤنٹ کا اختیار سمجھیں۔ پورٹل سند کو اپنی ایپلیکیشن کے ساتھ کبھی ڈیپلائے نہ کریں۔ اگر آپ کا ایپ سرور ہیک ہو جائے تو حملہ آور کے ہاتھ ایک انفرنس کلید لگنی چاہیے، اکاؤنٹ کا کنٹرول نہیں۔
API کلیدیں کتنی بار روٹیٹ کرنی چاہییں؟
OWASP باقاعدہ روٹیشن کی سفارش کرتا ہے “so that any stolen credentials will only work for a short time” (ترجمہ: تاکہ چوری شدہ اسناد صرف تھوڑی دیر کام کریں)۔ BroadNet کی کلیدیں بننے سے ایک سال تک چلتی ہیں، اس لیے ہر کلید کو ویسے بھی بدلنا ہی ہوگا۔ روٹیشن کو معمول بنائیں:
- اسی لیبل پیٹرن اور allow-list کے ساتھ نئی کلید بنائیں۔
- اسے پرانی کے ساتھ ڈیپلائے کریں، یا سیکرٹ بدل کر ری اسٹارٹ کریں۔
- ٹریفک کو نئی کلید پر جاتا دیکھیں۔
- پرانی کلید
DELETE /portal/keys/{alias}سے منسوخ کریں۔
چونکہ ایک اکاؤنٹ میں دس تک فعال کلیدیں ہو سکتی ہیں، آپ بغیر ڈاؤن ٹائم کے چند منٹ پرانی اور نئی کلید ساتھ چلا سکتے ہیں۔ ٹیم چھوڑنے والے کسی رکن کی رسائی والی کلیدیں جلدی روٹیٹ کریں۔
کلید لیک ہو جائے تو کیا کریں؟
کلید لیک ہو تو پہلے اسے منسوخ کریں، تحقیق بعد میں۔ BroadNet Inference پر منسوخی یا allow-list کی تبدیلی کے پانچ سیکنڈ کے اندر نئی درخواستیں رک جاتی ہیں؛ دستاویزات بتاتی ہیں کہ اجازت کے فیصلے اتنی مقررہ مدت تک ایک ریپلیکیٹڈ کیش میں رہ سکتے ہیں۔
منسوخی کے بعد:
- اکاؤنٹ صفحے یا
GET /portal/usageمیں اس کلید کا استعمال دیکھیں؛ - معلوم کریں کہ وہ کیسے لیک ہوئی (کمٹ ہسٹری، CI لاگز، شیئر کیا گیا اسکرین شاٹ)؛
- اسی جگہ رکھے دوسرے سیکرٹس بھی روٹیٹ کریں۔
منسوخ یا بلاک شدہ کلید 401 یا 403 لوٹاتی ہے؛ ایررز گائیڈ دیکھیں، تاکہ آپ کی مانیٹرنگ انہیں عارضی ایررز نہ سمجھے۔
لاگز سے کلیدیں کیسے لیک ہوتی ہیں؟
لاگز والا لیک آسانی سے نظر سے چھوٹ جاتا ہے۔ HTTP ڈیبگ لاگنگ، ایرر رپورٹرز اور پراکسی ایکسیس لاگز میں Authorization ہیڈر چھپا دیں۔ سپورٹ سے رابطہ کرتے وقت X-Request-ID، ٹائم اسٹیمپ، روٹ، اسٹیٹس اور کلید کا alias بھیجیں، کلید خود کبھی نہیں۔ BroadNet کی دستاویزات کے مطابق پورٹل ہر کلید کا صرف ہیش رکھتا ہے، اس لیے وہ گم شدہ کلید بھی آپ کو نہیں دکھا سکتا۔
جو لیک ابھی پکڑ میں نہیں آیا، اس کا نقصان کیسے محدود کریں؟
اوپر کی ہر عادت اپنانے کے بعد بھی فرض کریں کہ کوئی کلید کسی دن لیک ہو سکتی ہے۔ نقصان کا دائرہ چھوٹا رکھیں:
- استعمال کے مطابق ادائیگی والا بیلنس اتنا ہی رکھیں جتنا کھونا آپ کو قبول ہو، اور ضرورت کے مطابق ٹاپ اپ کریں۔
- بھاری ایجنٹس کے لیے مقررہ قیمت والا پلان استعمال کریں: پلان سیشن کی قیمت مقرر ہوتی ہے، اس لیے چوری شدہ پلان کلید فی ٹوکن بل نہیں بڑھا سکتی۔ دیکھیں لامحدود کا اصل مطلب کیا ہے۔
- ہر کلید پر غیر معمولی خرچ یا درخواستوں کی شرح پر الرٹ لگائیں؛ LLM API لاگت کیلکولیٹر آپ کو ایک عام ماہانہ عدد دیتا ہے جس کے مقابلے میں الرٹ سیٹ کیا جا سکے۔ LLM API خرچ پر کنٹرول والی ہماری پوسٹ بجٹ اور الرٹس سمجھاتی ہے۔
BroadNet Inference کلید کے کون سے کنٹرولز دیتا ہے؟
| کنٹرول | BroadNet Inference |
|---|---|
| کلید ایک بار دکھائی جاتی ہے، ہیش کی شکل میں محفوظ | ہاں |
| ہر اکاؤنٹ میں فعال کلیدیں | 10 تک |
| کلید کی مدت | ایک سال |
| IP allow-list | 32 تک IPv4، IPv6 یا CIDR اندراجات |
| ہر کلید کی اپنی allow-list | ہاں، بناتے وقت allowed_ips |
| منسوخی کب نافذ ہوتی ہے | پانچ سیکنڈ کے اندر |
| الگ ایڈمن سند | پورٹل سند |
کلیدیں آپ کے اکاؤنٹ کی حفاظت کرتی ہیں؛ زیرو ڈیٹا ریٹینشن اس کی حفاظت کرتا ہے جو آپ ان کے ذریعے بھیجتے ہیں۔ لانچ سے پہلے دونوں پڑھیں۔
