BroadRouter
Mulakan

Keselamatan kunci API LLM: penyimpanan, putaran dan senarai IP

Oleh pasukan BroadNet Inference · 6 minit bacaan · Diterbitkan · Dikemas kini

Simpan kunci API LLM dalam pengurus rahsia, jangan sekali-kali dalam kod atau pelayar. Beri setiap aplikasi atau ejen kuncinya sendiri, putar mengikut jadual, dan kunci kunci itu pada pelayan anda dengan senarai IP dibenarkan. BroadNet Inference menyatakan senarai dibenarkannya menerima 32 entri, pembatalan menghentikan permintaan baharu dalam masa lima saat, dan kunci bertahan selama setahun.

Untuk melindungi kunci API LLM, simpan kunci dalam pengurus rahsia dan panggil model hanya dari pelayan anda, jangan sekali-kali dari pelayar atau aplikasi. Beri setiap beban kerja kuncinya sendiri, putar kunci mengikut jadual, kunci pada IP pelayan anda dengan senarai dibenarkan (allow-list), dan apabila kunci bocor, batalkan (revoke) dahulu, siasat kemudian.

Catatan ini merangkumi tabiat yang memastikan kunci selamat, bersama kawalan khusus yang disediakan oleh BroadNet Inference. Untuk langkah demi langkah di portal, lihat panduan kunci API dan senarai IP dibenarkan; untuk bajet dan perlindungan daripada gelung tanpa kawalan, lihat kawalan perbelanjaan API LLM.

Di manakah kunci API LLM patut disimpan?

Simpan kunci dalam pengurus rahsia atau rahsia tersulit platform anda, jangan sekali-kali dalam kod. OWASP Secrets Management Cheat Sheet membincangkan pilihan secara mendalam. Ambil perhatian amarannya: pembolehubah persekitaran “are generally accessible to all processes and may be included in logs or system dumps” (Terjemahan: lazimnya boleh diakses oleh semua proses dan mungkin termasuk dalam log atau longgokan sistem), jadi OWASP lebih suka fail rahsia yang dilekapkan atau mengambil rahsia dari stor rahsia jika anda ada pilihan. Pembolehubah persekitaran yang diisi daripada pengurus rahsia semasa permulaan ialah jalan tengah yang biasa.

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],  # fails loudly if missing
)

Gunakan os.environ[...], bukan os.getenv(...) dengan nilai sandaran yang dikod keras; nilai sandaran itulah cara kunci berakhir dalam Git. Untuk pembangunan setempat, fail .env tidak mengapa jika ia berada dalam .gitignore sejak commit pertama. Hidupkan secret scanning dan push protection pada hos Git anda. Di GitHub, push protection menyekat push yang mengandungi format rahsia yang dikenali sebelum ia sampai ke repositori; push protection untuk pengguna dihidupkan secara lalai, tetapi push protection peringkat repositori dimatikan secara lalai dan mesti didayakan oleh pentadbir repositori atau pemilik organisasi.

Bolehkah kunci API diletakkan dalam pelayar atau aplikasi mudah alih?

Tidak. Apa sahaja yang dihantar kepada klien boleh diekstrak. Kod bahagian hadapan dan berkas aplikasi adalah awam, walau bagaimana ia dimampatkan atau dikaburkan. Panggil LLM dari pelayan anda, sahkan pengguna anda sendiri di sana, dan kenakan had setiap pengguna anda sendiri sebelum memajukan permintaan.

Begitu juga dengan alat desktop yang anda berikan kepada orang lain. Jika rakan sepasukan memerlukan akses kepada ejen pengekodan, berikan mereka kunci sendiri pada akaun sendiri dan bukannya berkongsi satu kunci.

Mengapakah setiap beban kerja perlu kunci sendiri?

Di BroadNet Inference, satu akaun boleh memegang sehingga sepuluh kunci aktif. Gunakannya:

Label kunci Digunakan oleh
prod-api Backend pengeluaran
prod-worker Kerja batch
staging Persekitaran staging
agent-ci Ejen pengekodan dalam CI
dev-laptop-<name> Pembangunan setempat

Apabila satu kunci bocor, anda hanya membatalkan kunci itu dan yang lain terus berfungsi. Label juga menjadikan penggunaan mudah dibaca: anda boleh melihat beban kerja mana yang membelanjakan berapa. Namakan kunci mengikut penggunanya, bukan mengikut siapa yang menciptanya.

Bagaimanakah senarai IP dibenarkan melindungi kunci?

Dengan senarai IP dibenarkan, kunci yang dicuri gagal di mana-mana kecuali infrastruktur anda sendiri. Di BroadNet Inference:

  • Senarai dibenarkan akaun menerima sehingga 32 entri, satu alamat IPv4 atau IPv6 atau julat CIDR bagi setiap baris.
  • Senarai kosong bermaksud tiada sekatan.
  • Kunci baharu mewarisi senarai akaun, kecuali anda mencipta kunci dengan allowed_ips sendiri, yang menggantikan senarai warisan bagi kunci itu.
  • Permintaan dari alamat di luar senarai ditolak dengan 403 (“refused by model, route or IP policy”; Terjemahan: ditolak oleh dasar model, laluan atau IP).

Cipta kunci dengan senarai sendiri melalui API portal:

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

Respons mengandungi kunci mentah sekali sahaja. Simpan segera dalam pengurus rahsia anda; ia tidak boleh dibaca semula. Langkah penuh ada dalam panduan senarai IP dibenarkan.

Senarai dibenarkan sesuai untuk pelayan dengan IP keluar yang stabil: VPS, gerbang NAT, IP pejabat yang tetap. Untuk komputer riba pada rangkaian yang berubah-ubah, gunakan kunci berasingan tanpa senarai dan pastikan baki yang terdedah kepadanya kecil.

Mengapakah kunci inferens perlu diasingkan daripada kelayakan pentadbir?

BroadNet menggunakan dua jenis kelayakan:

Kelayakan Boleh buat Simpan di
Kunci inferens Permintaan model ke /v1/* Di mana aplikasi berjalan
Kelayakan portal Cipta dan batalkan kunci, tukar IP dibenarkan, buat pembelian Hanya dalam automasi atau alat pentadbir anda

Dokumentasi menyatakan setiap kelayakan portal perlu dianggap sebagai kuasa penuh ke atas akaun. Jangan sekali-kali menempatkan kelayakan portal bersebelahan aplikasi anda. Jika pelayan aplikasi anda dikompromi, penyerang sepatutnya hanya mendapat satu kunci inferens, bukan kawalan ke atas akaun.

Berapa kerapkah kunci API perlu diputar?

OWASP mengesyorkan putaran berkala “so that any stolen credentials will only work for a short time.” (Terjemahan: supaya mana-mana kelayakan yang dicuri hanya berfungsi untuk masa yang singkat.) Kunci BroadNet bertahan setahun dari tarikh dicipta, jadi setiap kunci tetap perlu diganti. Jadikan putaran satu rutin:

  1. Cipta kunci baharu dengan corak label dan senarai dibenarkan yang sama.
  2. Gunakannya bersama kunci lama, atau tukar rahsia dan mulakan semula.
  3. Perhatikan trafik beralih ke kunci baharu.
  4. Batalkan kunci lama dengan DELETE /portal/keys/{alias}.

Oleh sebab satu akaun boleh memegang sehingga sepuluh kunci aktif, kunci lama dan baharu boleh bertindih selama beberapa minit tanpa gangguan perkhidmatan. Putar lebih awal bagi kunci yang pernah diakses oleh ahli pasukan yang akan berhenti.

Apakah yang perlu dilakukan apabila kunci bocor?

Apabila kunci bocor, batalkan dahulu dan siasat kemudian. Di BroadNet Inference, permintaan baharu berhenti dalam lima saat selepas pembatalan atau perubahan senarai dibenarkan; dokumentasi menerangkan bahawa keputusan kebenaran mungkin kekal dalam cache yang direplikasi bagi tempoh terhad itu.

Selepas membatalkan:

  • semak penggunaan kunci itu di halaman akaun atau GET /portal/usage;
  • cari bagaimana ia bocor (sejarah commit, log CI, tangkapan skrin yang dikongsi);
  • putar rahsia lain yang disimpan di tempat yang sama.

Kunci yang dibatalkan atau disekat memulangkan 401 atau 403; lihat panduan ralat supaya pemantauan anda tidak menganggapnya sebagai ralat sementara.

Bagaimanakah kunci bocor melalui log?

Kebocoran melalui log mudah terlepas pandang. Sunting keluar pengepala Authorization dalam log nyahpepijat HTTP, pelapor ralat dan log akses proksi. Apabila menghubungi sokongan, hantar X-Request-ID, cap masa, laluan, status dan alias kunci, jangan sekali-kali kunci itu sendiri. Dokumentasi BroadNet menyatakan portal hanya menyimpan hash bagi setiap kunci, jadi ia juga tidak dapat menunjukkan kunci yang hilang kepada anda.

Bagaimanakah anda mengehadkan kerosakan daripada kebocoran yang belum ditemui?

Walaupun dengan semua tabiat di atas, anggaplah sesuatu kunci mungkin bocor suatu hari nanti. Kecilkan kesannya:

  • Kekalkan baki bayar ikut guna pada tahap yang anda sanggup kehilangan, dan tambah nilai mengikut keperluan.
  • Gunakan pelan kadar tetap untuk ejen yang berat: sesi pelan mempunyai harga tetap, jadi kunci pelan yang dicuri tidak boleh menaikkan bil setiap token. Lihat maksud sebenar tanpa had.
  • Pasang amaran untuk perbelanjaan atau kadar permintaan luar biasa bagi setiap kunci; kalkulator kos API LLM memberi angka bulanan biasa sebagai asas amaran. Catatan kami tentang kawalan perbelanjaan API LLM merangkumi bajet dan amaran.

Apakah kawalan kunci yang disediakan oleh BroadNet Inference?

Kawalan BroadNet Inference
Kunci ditunjukkan sekali, disimpan dalam bentuk hash Ya
Kunci aktif setiap akaun Sehingga 10
Hayat kunci Setahun
Senarai IP dibenarkan Sehingga 32 entri IPv4, IPv6 atau CIDR
Senarai dibenarkan setiap kunci Ya, allowed_ips semasa dicipta
Pembatalan berkuat kuasa Dalam lima saat
Kelayakan pentadbir berasingan Kelayakan portal

Kunci melindungi akaun anda; pengekalan data sifar melindungi apa yang anda hantar melaluinya. Baca kedua-duanya sebelum anda melancarkan.

Soalan lazim

Di manakah saya patut menyimpan kunci API LLM?

Dalam pengurus rahsia atau rahsia tersulit platform anda, yang dimasukkan ke dalam proses sebagai pembolehubah persekitaran seperti BROADNET_API_KEY. Bukan dalam kod sumber, bukan dalam fail .env yang di-commit, dan jangan sekali-kali dalam kod bahagian hadapan.

Berapa cepat saya boleh membatalkan kunci BroadNet Inference?

Dokumentasi BroadNet menyatakan permintaan baharu berhenti dalam masa lima saat selepas pembatalan atau perubahan senarai dibenarkan, kerana keputusan kebenaran mungkin kekal dalam cache yang direplikasi bagi tempoh terhad itu.

Berapa lamakah kunci BroadNet Inference bertahan?

Kunci bayar ikut guna bertahan setahun dari tarikh dicipta. Satu akaun boleh memegang sehingga sepuluh kunci aktif, jadi anda boleh mencipta kunci pengganti sebelum kunci lama tamat tempoh.

Bolehkah BroadNet menunjukkan semula kunci saya jika saya kehilangannya?

Tidak. Dokumentasi BroadNet menyatakan kunci mentah dipulangkan sekali sahaja dan portal hanya menyimpan hash-nya. Cipta kunci baharu dan batalkan kunci lama.

Apakah yang patut saya lakukan jika kunci API serasi OpenAI saya bocor?

Batalkan dahulu, kemudian siasat. Semak penggunaan kunci itu untuk trafik yang tidak dikenali, cari punca kebocoran (sejarah commit, log CI, tangkapan skrin), putar rahsia lain yang disimpan di tempat yang sama, dan keluarkan kunci pengganti dengan senarai IP dibenarkan.

Baca sebagai MarkdownTanya ChatGPTTanya ClaudeTanya Perplexity