Bir LLM API anahtarını güvende tutmak için onu bir gizli bilgi yöneticisinde saklayın ve modeli tarayıcıdan veya uygulamadan değil, yalnızca sunucunuzdan çağırın. Her iş yüküne ayrı bir anahtar verin, anahtarları belirli aralıklarla yenileyin (rotasyon), izin listesiyle sunucu IP’lerinize kilitleyin ve sızan bir anahtarı önce iptal edin, sonra araştırın.
Bu yazı anahtarları güvende tutan alışkanlıkları, BroadNet Inference’ın sunduğu somut kontrollerle birlikte anlatıyor. Portalda adım adım yapılacaklar için API anahtarları ve IP izin listeleri rehberine, bütçeler ve kontrolden çıkan döngülere karşı koruma için LLM API harcama kontrolü yazısına bakın.
LLM API anahtarı nerede saklanmalı?
Anahtarları kodda değil, bir gizli bilgi yöneticisinde veya platformunuzun şifreli gizli bilgilerinde saklayın. OWASP Secrets Management Cheat Sheet seçenekleri ayrıntılı anlatıyor. Uyarısına dikkat edin: ortam değişkenleri “are generally accessible to all processes and may be included in logs or system dumps” (BroadRouter çevirisi: “genellikle tüm süreçler tarafından erişilebilir ve loglara veya sistem dökümlerine dahil olabilir”); bu yüzden OWASP, seçme imkânınız olduğunda bağlanmış (mount edilmiş) gizli dosyaları veya gizli bilgileri bir gizli bilgi deposundan çekmeyi tercih ediyor. Başlangıçta bir gizli bilgi yöneticisinden doldurulan ortam değişkeni, yaygın orta yoldur.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"], # fails loudly if missing
)
Sabit kodlanmış bir yedek değerle os.getenv(...) değil, os.environ[...] kullanın; anahtarlar Git’e genellikle böyle yedek değerler yüzünden düşer. Yerel geliştirmede .env dosyası, ilk commit’ten itibaren .gitignore içindeyse sorun değildir. Git barındırma hizmetinizin gizli bilgi taramasını ve push korumasını açın. GitHub’da push protection, bilinen gizli bilgi biçimlerini içeren push’ları depoya ulaşmadan engeller. Kullanıcılar için push protection varsayılan olarak açıktır; ancak depo düzeyindeki push protection varsayılan olarak kapalıdır ve bir depo yöneticisi veya kuruluş sahibi tarafından etkinleştirilmesi gerekir.
API anahtarı tarayıcıya veya mobil uygulamaya konabilir mi?
Hayır. İstemciye gönderilen her şey dışarı çıkarılabilir. Ön yüz kodu ve uygulama paketleri, ne kadar küçültülmüş (minify) veya karıştırılmış (obfuscate) olursa olsun herkese açıktır. LLM’i sunucunuzdan çağırın, kendi kullanıcılarınızın kimliğini orada doğrulayın ve isteği iletmeden önce kullanıcı başına kendi sınırlarınızı uygulayın.
Başkalarına verdiğiniz masaüstü araçları için de aynısı geçerli. Bir ekip arkadaşınızın bir kodlama ajanına erişmesi gerekiyorsa tek bir anahtarı paylaşmak yerine ona kendi hesabında kendi anahtarını verin.
Her iş yüküne neden ayrı anahtar verilmeli?
BroadNet Inference’ta bir hesapta en fazla on etkin anahtar olabilir. Bunları kullanın:
| Anahtar etiketi | Kullanan |
|---|---|
prod-api |
Üretim arka ucu |
prod-worker |
Toplu işler |
staging |
Staging ortamı |
agent-ci |
CI’daki kodlama ajanı |
dev-laptop-<name> |
Yerel geliştirme |
Biri sızarsa yalnızca o anahtarı iptal edersiniz, diğerleri çalışmaya devam eder. Etiketler kullanımı da okunur kılar: hangi iş yükünün ne kadar harcadığını görebilirsiniz. Anahtarlara onları kimin oluşturduğuna göre değil, neyin kullandığına göre ad verin.
IP izin listeleri bir anahtarı nasıl korur?
Bir IP izin listesi, çalınan bir anahtarın kendi altyapınız dışında hiçbir yerde çalışmaması demektir. BroadNet Inference’ta:
- Hesap izin listesi en fazla 32 kayıt alır; her satıra bir IPv4 veya IPv6 adresi ya da CIDR aralığı.
- Boş liste, kısıtlama olmadığı anlamına gelir.
- Yeni anahtarlar hesap listesini devralır; ancak kendi
allowed_ipsdeğeriyle oluşturulan bir anahtarda bu liste, o anahtar için devralınan listenin yerine geçer. - Listenin dışındaki bir adresten gelen istek 403 ile reddedilir (“refused by model, route or IP policy”; BroadRouter çevirisi: “model, rota veya IP politikası tarafından reddedildi”).
Portal API’si üzerinden kendi listesi olan bir anahtar oluşturun:
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
Yanıt, ham anahtarı yalnızca bir kez içerir. Hemen gizli bilgi yöneticinize kaydedin; sonradan tekrar okunamaz. Tüm adımlar IP izin listesi rehberinde.
İzin listeleri, çıkış (egress) IP’si sabit olan sunuculara uyar: bir VPS, bir NAT ağ geçidi, sabit bir ofis IP’si. Ağı sürekli değişen dizüstü bilgisayarlar için listesi olmayan ayrı bir anahtar kullanın ve o anahtarın risk altındaki bakiyesini küçük tutun.
Çıkarım anahtarları neden yönetici kimlik bilgilerinden ayrı tutulmalı?
BroadNet iki tür kimlik bilgisi kullanır:
| Kimlik bilgisi | Neler yapabilir | Nerede saklanır |
|---|---|---|
| Çıkarım anahtarı | /v1/* adresine model istekleri |
Uygulamanın çalıştığı her yerde |
| Portal kimlik bilgisi | Anahtar oluşturma ve iptal etme, izinli IP’leri değiştirme, satın alma | Yalnızca otomasyon veya yönetim araçlarınızda |
Belgeler, her portal kimlik bilgisini hesap üzerinde tam yetki olarak görmenizi söylüyor. Portal kimlik bilgisini asla uygulamanızın yanına dağıtmayın. Uygulama sunucunuz ele geçirilirse saldırganın eline hesabın kontrolü değil, tek bir çıkarım anahtarı geçmelidir.
API anahtarları ne sıklıkla yenilenmeli?
OWASP, düzenli rotasyonu “so that any stolen credentials will only work for a short time” (BroadRouter çevirisi: “çalınan kimlik bilgileri yalnızca kısa bir süre işe yarasın diye”) öneriyor. BroadNet anahtarları oluşturulduktan sonra bir yıl geçerlidir; yani her anahtarın zaten bir gün değiştirilmesi gerekecek. Rotasyonu rutin hâle getirin:
- Aynı etiket düzeni ve izin listesiyle yeni bir anahtar oluşturun.
- Eskisinin yanına dağıtın ya da gizli bilgiyi değiştirip yeniden başlatın.
- Trafiğin yeni anahtara geçtiğini izleyin.
- Eski anahtarı
DELETE /portal/keys/{alias}ile iptal edin.
Bir hesapta en fazla on etkin anahtar olabildiği için eski ve yeni anahtarı birkaç dakika birlikte çalıştırıp kesinti yaşamadan geçiş yapabilirsiniz. Ekipten ayrılan birinin erişimi olan anahtarları daha erken yenileyin.
Bir anahtar sızdığında ne yapılmalı?
Bir anahtar sızdığında önce iptal edin, sonra araştırın. BroadNet Inference’ta iptal veya izin listesi değişikliğinden sonra yeni istekler beş saniye içinde durur; belgeler, yetkilendirme kararlarının bu sınırlı süre boyunca çoğaltılmış bir önbellekte kalabileceğini açıklıyor.
İptalden sonra:
- anahtarın kullanımını hesap sayfasından veya
GET /portal/usageile kontrol edin; - nasıl sızdığını bulun (commit geçmişi, CI logları, paylaşılmış bir ekran görüntüsü);
- aynı yerde saklanan diğer gizli bilgileri de yenileyin.
İptal edilmiş veya engellenmiş bir anahtar 401 ya da 403 döndürür; izleme sisteminizin bunları geçici hata saymaması için hatalar rehberine bakın.
Anahtarlar loglar üzerinden nasıl sızar?
Loglar gözden kaçması kolay bir sızıntı kaynağıdır. HTTP hata ayıklama loglarında, hata raporlayıcılarda ve proxy erişim loglarında Authorization başlığını maskeleyin. Destek ekibiyle iletişime geçtiğinizde anahtarın kendisini asla göndermeyin; X-Request-ID, zaman damgası, rota, durum ve anahtar takma adını (alias) gönderin. BroadNet’in belgelerine göre portal her anahtarın yalnızca hash değerini saklar; bu yüzden kaybettiğiniz bir anahtarı size gösteremez.
Henüz fark etmediğiniz bir sızıntının zararı nasıl sınırlanır?
Yukarıdaki tüm alışkanlıklara rağmen bir anahtarın bir gün sızabileceğini varsayın. Etki alanını küçültün:
- Kullandıkça öde bakiyesini kaybetmeyi göze alabileceğiniz bir düzeyde tutun ve gerektikçe bakiye yükleyin.
- Yoğun çalışan ajanlar için sabit fiyatlı bir plan kullanın: plan oturumunun fiyatı sabittir, bu yüzden çalınan bir plan anahtarı token başına fatura biriktiremez. Bkz. sınırsız aslında ne demek.
- Anahtar başına olağan dışı harcama veya istek hızları için uyarı kurun; LLM API maliyet hesaplayıcısı, uyarıyı karşılaştıracağınız normal aylık rakamı verir. LLM API harcama kontrolü yazımız bütçeleri ve uyarıları anlatıyor.
BroadNet Inference hangi anahtar kontrollerini sunuyor?
| Kontrol | BroadNet Inference |
|---|---|
| Anahtar bir kez gösterilir, hash olarak saklanır | Evet |
| Hesap başına etkin anahtar | En fazla 10 |
| Anahtar ömrü | Bir yıl |
| IP izin listesi | En fazla 32 IPv4, IPv6 veya CIDR kaydı |
| Anahtar başına izin listesi | Evet, oluştururken allowed_ips |
| İptalin geçerli olması | Beş saniye içinde |
| Ayrı yönetici kimlik bilgisi | Portal kimlik bilgisi |
Anahtarlar hesabınızı korur; sıfır veri saklama ise hesap üzerinden gönderdiklerinizi. Yayına almadan önce ikisini de okuyun.
