BroadRouter
Magsimula

Seguridad ng LLM API key: pag-iimbak, rotation at IP allow-list

Ng BroadNet Inference team · 6 minutong basa · Nailathala · Na-update

Itago ang LLM API key sa secret manager, hindi kailanman sa code o sa browser. Bigyan ng sariling key ang bawat app o agent, mag-rotate nang regular, at i-lock ang mga key sa server mo gamit ang IP allow-list. Ayon sa BroadNet Inference, 32 entry ang kaya ng allow-list nito, humihinto ang bagong request sa loob ng limang segundo pagkatapos mag-revoke, at isang taon ang buhay ng key.

Para i-secure ang LLM API key, itago ito sa secret manager at tawagan lang ang model mula sa server mo, hindi kailanman mula sa browser o app. Bigyan ng sariling key ang bawat workload, mag-rotate ng key nang regular, i-lock ang mga ito sa IP ng server mo gamit ang allow-list, at kapag may na-leak na key, i-revoke muna bago mag-imbestiga.

Saklaw ng post na ito ang mga gawi na nagpapanatiling ligtas sa mga key, kasama ang mga partikular na kontrol na ibinibigay ng BroadNet Inference. Para sa sunud-sunod na pag-click sa portal, tingnan ang gabay sa API key at IP allow-list; para sa budget at proteksyon laban sa runaway loop, tingnan ang kontrol sa gastos ng LLM API.

Saan dapat itago ang LLM API key?

Itago ang mga key sa secret manager o sa encrypted secrets ng platform mo, hindi kailanman sa code. Malalim na tinatalakay ng OWASP Secrets Management Cheat Sheet ang mga opsyon. Pansinin ang babala nito: ang mga environment variable ay “are generally accessible to all processes and may be included in logs or system dumps” (salin: karaniwang naa-access ng lahat ng process at maaaring mapasama sa logs o system dump), kaya mas gusto ng OWASP ang naka-mount na secret file o ang pagkuha ng secret mula sa secret store kung may pagpipilian ka. Ang karaniwang gitnang daan ay environment variable na pinupuno mula sa secret manager sa pag-start.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],  # fails loudly if missing
)

Gamitin ang os.environ[...], hindi ang os.getenv(...) na may hard-coded na fallback; ganyan napupunta sa Git ang mga key. Para sa local development, ayos lang ang .env file kung nasa .gitignore na ito mula sa unang commit. I-on ang secret scanning at push protection ng Git host mo. Sa GitHub, hinaharang ng push protection ang mga push na may kilalang format ng secret bago pa ito umabot sa repository; naka-on by default ang push protection para sa mga user, pero naka-off by default ang push protection sa antas ng repository at kailangan itong i-enable ng repository administrator o organisation owner.

Puwede bang ilagay ang API key sa browser o mobile app?

Hindi. Makukuha ang anumang ipinadala sa client. Pampubliko ang front-end code at app bundle, gaano man ito ka-minify o ka-obfuscate. Tawagan ang LLM mula sa server mo, i-authenticate doon ang sarili mong mga user, at ilapat ang sarili mong limit kada user bago ipasa ang request.

Ganoon din sa mga desktop tool na ibinibigay mo sa iba. Kung kailangan ng kasamahan mo ng access sa coding agent, bigyan siya ng sariling key sa sarili niyang account sa halip na maghati kayo sa isa.

Bakit dapat may sariling key ang bawat workload?

Sa BroadNet Inference, hanggang sampung live key ang puwede sa isang account. Gamitin ang mga ito:

Label ng key Gumagamit
prod-api Production backend
prod-worker Mga batch job
staging Staging environment
agent-ci Coding agent sa CI
dev-laptop-<name> Local development

Kapag may na-leak, iyon lang ang ire-revoke mo, at patuloy na gagana ang iba. Nagiging madaling basahin din ang usage dahil sa mga label: makikita mo kung magkano ang ginagastos ng bawat workload. Pangalanan ang key ayon sa gumagamit nito, hindi ayon sa gumawa nito.

Paano pinoprotektahan ng IP allow-list ang key?

Sa IP allow-list, papalya ang ninakaw na key saanman maliban sa sarili mong infrastructure. Sa BroadNet Inference:

  • Hanggang 32 entry ang tinatanggap ng allow-list ng account, isang IPv4 o IPv6 address o CIDR range kada linya.
  • Walang restriction kapag walang laman ang listahan.
  • Minamana ng mga bagong key ang listahan ng account, maliban kung gumawa ka ng key na may sariling allowed_ips, na pumapalit sa minanang listahan para sa key na iyon.
  • Tinatanggihan nang may 403 ang request mula sa address na wala sa listahan (“refused by model, route or IP policy”; salin: tinanggihan ng patakaran sa model, route o IP).

Gumawa ng key na may sariling listahan gamit ang portal API:

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

Isang beses lang lalabas ang raw key sa response. Itago ito agad sa secret manager mo; hindi na ito mababasa ulit. Nasa gabay sa IP allow-list ang kumpletong hakbang.

Bagay ang allow-list sa mga server na may stable na egress IP: VPS, NAT gateway, fixed na IP ng opisina. Para sa mga laptop na palipat-lipat ng network, gumamit ng hiwalay na key na walang listahan at panatilihing maliit ang balance na puwedeng malantad dito.

Bakit dapat ihiwalay ang inference key sa admin credential?

Dalawang uri ng credential ang gamit ng BroadNet:

Credential Kayang gawin Saan itatago
Inference key Mga model request sa /v1/* Kung saan tumatakbo ang app
Portal credential Gumawa at mag-revoke ng key, magpalit ng allowed IP, bumili Sa automation o admin tooling mo lang

Sabi ng docs, ituring ang bawat portal credential bilang buong awtoridad sa account. Huwag kailanman i-deploy ang portal credential katabi ng application mo. Kung ma-compromise ang app server mo, isang inference key lang dapat ang makuha ng attacker, hindi ang kontrol sa account.

Gaano kadalas dapat i-rotate ang API key?

Inirerekomenda ng OWASP ang regular na rotation “so that any stolen credentials will only work for a short time.” (salin: para gumana lang nang maikling panahon ang anumang ninakaw na credential.) Isang taon mula pagkagawa ang buhay ng BroadNet key, kaya kailangan ding palitan ang bawat key kahit paano. Gawing routine ang rotation:

  1. Gumawa ng bagong key na may parehong pattern ng label at allow-list.
  2. I-deploy ito kasabay ng luma, o palitan ang secret at mag-restart.
  3. Bantayan ang paglipat ng traffic sa bagong key.
  4. I-revoke ang lumang key gamit ang DELETE /portal/keys/{alias}.

Dahil hanggang sampung live key ang puwede sa isang account, puwedeng magsabay ang luma at bagong key nang ilang minuto nang walang downtime. Mag-rotate nang mas maaga para sa mga key na na-access ng kasamahang aalis na sa team.

Ano ang gagawin kapag na-leak ang key?

Kapag na-leak ang key, i-revoke muna ito bago mag-imbestiga. Sa BroadNet Inference, humihinto ang bagong request sa loob ng limang segundo pagkatapos ng revocation o pagbabago sa allow-list; paliwanag ng docs, puwedeng manatili ang mga desisyon sa authorisation sa isang replicated cache sa loob ng limitadong panahong iyon.

Pagkatapos mag-revoke:

  • tingnan ang usage ng key sa account page o sa GET /portal/usage;
  • alamin kung paano ito na-leak (commit history, CI logs, isang shared na screenshot);
  • i-rotate ang iba pang secret na nakatago sa parehong lugar.

Nagbabalik ng 401 o 403 ang key na na-revoke o na-block; tingnan ang gabay sa errors para hindi ito ituring ng monitoring mo na pansamantalang error.

Paano naa-leak ang key sa pamamagitan ng logs?

Madaling makaligtaan ang leak sa logs. I-redact ang Authorization header sa HTTP debug logging, error reporter at proxy access log. Kapag makikipag-ugnayan ka sa support, ipadala ang X-Request-ID, timestamp, route, status at alias ng key, hindi kailanman ang key mismo. Ayon sa docs ng BroadNet, hash lang ng bawat key ang itinatago ng portal, kaya hindi rin nito maipapakita sa iyo ang nawalang key.

Paano lilimitahan ang pinsala ng leak na hindi mo pa natutuklasan?

Kahit sundin mo ang lahat ng gawi sa itaas, ipagpalagay na puwedeng ma-leak ang isang key balang araw. Paliitin ang pinsala:

  • Panatilihin ang pay-as-you-go balance sa halagang kaya mong mawala, at mag-top up kapag kailangan.
  • Gumamit ng flat plan para sa mabibigat na agent: fixed ang presyo ng plan session, kaya hindi makakapagpalaki ng per-token na bill ang ninakaw na plan key. Tingnan ang ano talaga ang ibig sabihin ng unlimited.
  • Mag-alert sa kakaibang gastos o request rate kada key; binibigyan ka ng LLM API cost calculator ng normal na buwanang numero na pagbabatayan ng alert. Saklaw ng post namin sa kontrol sa gastos ng LLM API ang mga budget at alert.

Aling mga kontrol sa key ang ibinibigay ng BroadNet Inference?

Kontrol BroadNet Inference
Isang beses ipinapakita ang key, naka-hash kapag itinago Oo
Live key kada account Hanggang 10
Buhay ng key Isang taon
IP allow-list Hanggang 32 IPv4, IPv6 o CIDR entry
Allow-list kada key Oo, allowed_ips sa paggawa
Pag-epekto ng revocation Sa loob ng limang segundo
Hiwalay na admin credential Portal credential

Pinoprotektahan ng mga key ang account mo; pinoprotektahan ng zero data retention ang ipinapadala mo rito. Basahin ang dalawa bago ka mag-ship.

Mga tanong

Saan ko dapat itago ang LLM API key ko?

Sa secret manager o sa encrypted secrets ng platform mo, na ipinapasok sa process bilang environment variable gaya ng BROADNET_API_KEY. Hindi sa source code, hindi sa naka-commit na .env file, at hindi kailanman sa front-end code.

Gaano kabilis ko mare-revoke ang BroadNet Inference key?

Ayon sa docs ng BroadNet, humihinto ang bagong request sa loob ng limang segundo pagkatapos ng revocation o pagbabago sa allow-list, dahil puwedeng manatili ang mga desisyon sa authorisation sa isang replicated cache sa loob ng limitadong panahong iyon.

Gaano katagal ang buhay ng BroadNet Inference key?

Isang taon mula pagkagawa ang buhay ng pay-as-you-go key. Hanggang sampung live key ang puwede sa isang account, kaya puwede mong gawin ang kapalit bago mag-expire ang luma.

Puwede bang ipakita ulit ng BroadNet ang key ko kung nawala ko ito?

Hindi. Ayon sa docs ng BroadNet, isang beses lang ibinabalik ang raw key at hash lang nito ang itinatago ng portal. Gumawa ng bagong key at i-revoke ang luma.

Ano ang gagawin ko kapag na-leak ang OpenAI-compatible API key ko?

I-revoke muna, saka mag-imbestiga. Tingnan ang usage ng key para sa hindi kilalang traffic, alamin kung saan ito na-leak (commit history, CI logs, screenshot), i-rotate ang iba pang secret na nakatago sa parehong lugar, at maglabas ng kapalit na key na may IP allow-list.

Basahin bilang MarkdownTanungin ang ChatGPTTanungin ang ClaudeTanungin ang Perplexity