Para i-secure ang LLM API key, itago ito sa secret manager at tawagan lang ang model mula sa server mo, hindi kailanman mula sa browser o app. Bigyan ng sariling key ang bawat workload, mag-rotate ng key nang regular, i-lock ang mga ito sa IP ng server mo gamit ang allow-list, at kapag may na-leak na key, i-revoke muna bago mag-imbestiga.
Saklaw ng post na ito ang mga gawi na nagpapanatiling ligtas sa mga key, kasama ang mga partikular na kontrol na ibinibigay ng BroadNet Inference. Para sa sunud-sunod na pag-click sa portal, tingnan ang gabay sa API key at IP allow-list; para sa budget at proteksyon laban sa runaway loop, tingnan ang kontrol sa gastos ng LLM API.
Saan dapat itago ang LLM API key?
Itago ang mga key sa secret manager o sa encrypted secrets ng platform mo, hindi kailanman sa code. Malalim na tinatalakay ng OWASP Secrets Management Cheat Sheet ang mga opsyon. Pansinin ang babala nito: ang mga environment variable ay “are generally accessible to all processes and may be included in logs or system dumps” (salin: karaniwang naa-access ng lahat ng process at maaaring mapasama sa logs o system dump), kaya mas gusto ng OWASP ang naka-mount na secret file o ang pagkuha ng secret mula sa secret store kung may pagpipilian ka. Ang karaniwang gitnang daan ay environment variable na pinupuno mula sa secret manager sa pag-start.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"], # fails loudly if missing
)
Gamitin ang os.environ[...], hindi ang os.getenv(...) na may hard-coded na fallback; ganyan napupunta sa Git ang mga key. Para sa local development, ayos lang ang .env file kung nasa .gitignore na ito mula sa unang commit. I-on ang secret scanning at push protection ng Git host mo. Sa GitHub, hinaharang ng push protection ang mga push na may kilalang format ng secret bago pa ito umabot sa repository; naka-on by default ang push protection para sa mga user, pero naka-off by default ang push protection sa antas ng repository at kailangan itong i-enable ng repository administrator o organisation owner.
Puwede bang ilagay ang API key sa browser o mobile app?
Hindi. Makukuha ang anumang ipinadala sa client. Pampubliko ang front-end code at app bundle, gaano man ito ka-minify o ka-obfuscate. Tawagan ang LLM mula sa server mo, i-authenticate doon ang sarili mong mga user, at ilapat ang sarili mong limit kada user bago ipasa ang request.
Ganoon din sa mga desktop tool na ibinibigay mo sa iba. Kung kailangan ng kasamahan mo ng access sa coding agent, bigyan siya ng sariling key sa sarili niyang account sa halip na maghati kayo sa isa.
Bakit dapat may sariling key ang bawat workload?
Sa BroadNet Inference, hanggang sampung live key ang puwede sa isang account. Gamitin ang mga ito:
| Label ng key | Gumagamit |
|---|---|
prod-api |
Production backend |
prod-worker |
Mga batch job |
staging |
Staging environment |
agent-ci |
Coding agent sa CI |
dev-laptop-<name> |
Local development |
Kapag may na-leak, iyon lang ang ire-revoke mo, at patuloy na gagana ang iba. Nagiging madaling basahin din ang usage dahil sa mga label: makikita mo kung magkano ang ginagastos ng bawat workload. Pangalanan ang key ayon sa gumagamit nito, hindi ayon sa gumawa nito.
Paano pinoprotektahan ng IP allow-list ang key?
Sa IP allow-list, papalya ang ninakaw na key saanman maliban sa sarili mong infrastructure. Sa BroadNet Inference:
- Hanggang 32 entry ang tinatanggap ng allow-list ng account, isang IPv4 o IPv6 address o CIDR range kada linya.
- Walang restriction kapag walang laman ang listahan.
- Minamana ng mga bagong key ang listahan ng account, maliban kung gumawa ka ng key na may sariling
allowed_ips, na pumapalit sa minanang listahan para sa key na iyon. - Tinatanggihan nang may 403 ang request mula sa address na wala sa listahan (“refused by model, route or IP policy”; salin: tinanggihan ng patakaran sa model, route o IP).
Gumawa ng key na may sariling listahan gamit ang portal API:
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
Isang beses lang lalabas ang raw key sa response. Itago ito agad sa secret manager mo; hindi na ito mababasa ulit. Nasa gabay sa IP allow-list ang kumpletong hakbang.
Bagay ang allow-list sa mga server na may stable na egress IP: VPS, NAT gateway, fixed na IP ng opisina. Para sa mga laptop na palipat-lipat ng network, gumamit ng hiwalay na key na walang listahan at panatilihing maliit ang balance na puwedeng malantad dito.
Bakit dapat ihiwalay ang inference key sa admin credential?
Dalawang uri ng credential ang gamit ng BroadNet:
| Credential | Kayang gawin | Saan itatago |
|---|---|---|
| Inference key | Mga model request sa /v1/* |
Kung saan tumatakbo ang app |
| Portal credential | Gumawa at mag-revoke ng key, magpalit ng allowed IP, bumili | Sa automation o admin tooling mo lang |
Sabi ng docs, ituring ang bawat portal credential bilang buong awtoridad sa account. Huwag kailanman i-deploy ang portal credential katabi ng application mo. Kung ma-compromise ang app server mo, isang inference key lang dapat ang makuha ng attacker, hindi ang kontrol sa account.
Gaano kadalas dapat i-rotate ang API key?
Inirerekomenda ng OWASP ang regular na rotation “so that any stolen credentials will only work for a short time.” (salin: para gumana lang nang maikling panahon ang anumang ninakaw na credential.) Isang taon mula pagkagawa ang buhay ng BroadNet key, kaya kailangan ding palitan ang bawat key kahit paano. Gawing routine ang rotation:
- Gumawa ng bagong key na may parehong pattern ng label at allow-list.
- I-deploy ito kasabay ng luma, o palitan ang secret at mag-restart.
- Bantayan ang paglipat ng traffic sa bagong key.
- I-revoke ang lumang key gamit ang
DELETE /portal/keys/{alias}.
Dahil hanggang sampung live key ang puwede sa isang account, puwedeng magsabay ang luma at bagong key nang ilang minuto nang walang downtime. Mag-rotate nang mas maaga para sa mga key na na-access ng kasamahang aalis na sa team.
Ano ang gagawin kapag na-leak ang key?
Kapag na-leak ang key, i-revoke muna ito bago mag-imbestiga. Sa BroadNet Inference, humihinto ang bagong request sa loob ng limang segundo pagkatapos ng revocation o pagbabago sa allow-list; paliwanag ng docs, puwedeng manatili ang mga desisyon sa authorisation sa isang replicated cache sa loob ng limitadong panahong iyon.
Pagkatapos mag-revoke:
- tingnan ang usage ng key sa account page o sa
GET /portal/usage; - alamin kung paano ito na-leak (commit history, CI logs, isang shared na screenshot);
- i-rotate ang iba pang secret na nakatago sa parehong lugar.
Nagbabalik ng 401 o 403 ang key na na-revoke o na-block; tingnan ang gabay sa errors para hindi ito ituring ng monitoring mo na pansamantalang error.
Paano naa-leak ang key sa pamamagitan ng logs?
Madaling makaligtaan ang leak sa logs. I-redact ang Authorization header sa HTTP debug logging, error reporter at proxy access log. Kapag makikipag-ugnayan ka sa support, ipadala ang X-Request-ID, timestamp, route, status at alias ng key, hindi kailanman ang key mismo. Ayon sa docs ng BroadNet, hash lang ng bawat key ang itinatago ng portal, kaya hindi rin nito maipapakita sa iyo ang nawalang key.
Paano lilimitahan ang pinsala ng leak na hindi mo pa natutuklasan?
Kahit sundin mo ang lahat ng gawi sa itaas, ipagpalagay na puwedeng ma-leak ang isang key balang araw. Paliitin ang pinsala:
- Panatilihin ang pay-as-you-go balance sa halagang kaya mong mawala, at mag-top up kapag kailangan.
- Gumamit ng flat plan para sa mabibigat na agent: fixed ang presyo ng plan session, kaya hindi makakapagpalaki ng per-token na bill ang ninakaw na plan key. Tingnan ang ano talaga ang ibig sabihin ng unlimited.
- Mag-alert sa kakaibang gastos o request rate kada key; binibigyan ka ng LLM API cost calculator ng normal na buwanang numero na pagbabatayan ng alert. Saklaw ng post namin sa kontrol sa gastos ng LLM API ang mga budget at alert.
Aling mga kontrol sa key ang ibinibigay ng BroadNet Inference?
| Kontrol | BroadNet Inference |
|---|---|
| Isang beses ipinapakita ang key, naka-hash kapag itinago | Oo |
| Live key kada account | Hanggang 10 |
| Buhay ng key | Isang taon |
| IP allow-list | Hanggang 32 IPv4, IPv6 o CIDR entry |
| Allow-list kada key | Oo, allowed_ips sa paggawa |
| Pag-epekto ng revocation | Sa loob ng limang segundo |
| Hiwalay na admin credential | Portal credential |
Pinoprotektahan ng mga key ang account mo; pinoprotektahan ng zero data retention ang ipinapadala mo rito. Basahin ang dalawa bago ka mag-ship.
