LLM API キーを安全に保つには、シークレットマネージャーに保管し、モデルはブラウザーやアプリからではなく、必ずサーバーから呼び出してください。ワークロードごとに別のキーを使い、定期的にローテーションし、許可リストでサーバーの IP に固定します。漏えいしたキーは、まず失効させ、調査はその後に行います。
この記事では、キーを安全に保つための習慣と、BroadNet Inference が提供する具体的な管理機能を紹介します。ポータルでの操作手順は API キーと IP 許可リストのガイドを、予算や暴走ループへの備えは LLM API の支出管理をご覧ください。
LLM API キーはどこに保管すべきですか?
キーはシークレットマネージャーかプラットフォームの暗号化されたシークレットに保管し、コードには決して書かないでください。選択肢の詳細は OWASP Secrets Management Cheat Sheet にまとまっています。同資料の注意点にも目を通してください。環境変数は “are generally accessible to all processes and may be included in logs or system dumps”(訳:一般にすべてのプロセスからアクセスでき、ログやシステムダンプに含まれる可能性がある)ため、選べるなら、マウントしたシークレットファイルやシークレットストアからの取得を OWASP は推奨しています。起動時にシークレットマネージャーから環境変数に値を入れる方法が、よく使われる折衷案です。
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"], # fails loudly if missing
)
ハードコードした既定値付きの os.getenv(...) ではなく、os.environ[...] を使ってください。キーが Git に入り込むのは、たいていこの既定値経由です。ローカル開発では、最初のコミットから .gitignore に入っていれば .env ファイルを使っても問題ありません。Git ホスティングのシークレットスキャンとプッシュ保護を有効にしてください。GitHub のプッシュ保護は、既知の形式のシークレットを含むプッシュを、リポジトリに届く前にブロックします。ユーザー向けのプッシュ保護はデフォルトで有効ですが、リポジトリ単位のプッシュ保護はデフォルトで無効で、リポジトリ管理者か組織のオーナーが有効にする必要があります。
API キーをブラウザーやモバイルアプリに入れてもよいですか?
いいえ。クライアントに配布したものはすべて取り出せます。フロントエンドのコードやアプリのバンドルは、どれだけ minify や難読化をしても公開されているのと同じです。LLM はサーバーから呼び出し、そこで自社のユーザーを認証し、転送する前にユーザーごとの制限をかけてください。
他の人に渡すデスクトップツールも同じです。チームメンバーがコーディングエージェントを使う必要がある場合は、1 つのキーを共有するのではなく、本人のアカウントで本人のキーを発行してください。
なぜワークロードごとに別のキーを使うのですか?
BroadNet Inference では、1 つのアカウントで有効なキーを最大 10 個まで持てます。これを活用してください。
| キーのラベル | 使う場所 |
|---|---|
prod-api |
本番バックエンド |
prod-worker |
バッチジョブ |
staging |
ステージング環境 |
agent-ci |
CI 上のコーディングエージェント |
dev-laptop-<name> |
ローカル開発 |
1 つが漏えいしても、そのキーだけを失効させれば、他のキーはそのまま動きます。ラベルがあれば利用状況も読みやすくなり、どのワークロードがいくら使っているかが分かります。キーの名前は、作った人ではなく、使う場所に合わせて付けてください。
IP 許可リストはどのようにキーを守りますか?
IP 許可リストを設定すると、盗まれたキーは自社のインフラ以外では使えなくなります。BroadNet Inference では次のとおりです。
- アカウントの許可リストには最大 32 件を登録でき、1 行に IPv4 または IPv6 のアドレスか CIDR 範囲を 1 つ書きます。
- リストが空の場合は制限なしです。
- 新しいキーはアカウントのリストを引き継ぎます。ただし、キーの作成時に独自の
allowed_ipsを指定した場合は、そのキーについては引き継いだリストが置き換えられます。 - リスト外のアドレスからのリクエストは 403 で拒否されます(“refused by model, route or IP policy”、訳:モデル、ルート、または IP ポリシーにより拒否)。
ポータル API で、独自のリストを持つキーを作成するには次のようにします。
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
レスポンスには生のキーが一度だけ含まれます。後から読み出すことはできないので、すぐにシークレットマネージャーに保存してください。詳しい手順は IP 許可リストのガイドにあります。
許可リストは、送信元 IP が固定されたサーバー(VPS、NAT ゲートウェイ、固定のオフィス IP)に向いています。ネットワークが変わるノート PC には、リストなしの別のキーを使い、そのキーで失いうる残高を小さく抑えてください。
なぜ推論用キーと管理用の認証情報を分けるのですか?
BroadNet では 2 種類の認証情報を使います。
| 認証情報 | できること | 保管場所 |
|---|---|---|
| 推論用キー | /v1/* へのモデルリクエスト |
アプリが動く場所 |
| ポータル認証情報 | キーの作成と失効、許可 IP の変更、購入 | 自動化ツールや管理ツールの中だけ |
ドキュメントでは、ポータル認証情報はどれもアカウントの全権限として扱うよう求めています。ポータル認証情報をアプリと一緒にデプロイしてはいけません。アプリのサーバーが侵害されても、攻撃者が手にするのは推論用キー 1 つにとどめ、アカウントの制御は渡さないようにします。
API キーはどのくらいの頻度でローテーションすべきですか?
OWASP は定期的なローテーションを推奨しています。“so that any stolen credentials will only work for a short time.”(訳:盗まれた認証情報が短期間しか使えないようにするため。)BroadNet のキーは作成から 1 年間有効なので、どのキーもいずれ交換が必要です。ローテーションを定常業務にしましょう。
- 同じラベルの命名規則と許可リストで新しいキーを作成します。
- 古いキーと並行してデプロイするか、シークレットを切り替えて再起動します。
- トラフィックが新しいキーに移ったことを確認します。
DELETE /portal/keys/{alias}で古いキーを失効させます。
1 つのアカウントで有効なキーを最大 10 個まで持てるので、新旧のキーを数分間重ねて運用でき、ダウンタイムは発生しません。退職するメンバーがアクセスできたキーは、早めにローテーションしてください。
キーが漏えいしたら、どうすればよいですか?
キーが漏えいしたら、まず失効させ、調査はその後です。BroadNet Inference では、失効や許可リストの変更から5 秒以内に新しいリクエストが止まります。ドキュメントによると、認可の判定がその限られた時間だけ複製されたキャッシュに残る場合があるためです。
失効させた後は、次の対応をします。
- アカウントページか
GET /portal/usageでそのキーの利用状況を確認する。 - 漏えい経路(コミット履歴、CI ログ、共有したスクリーンショット)を突き止める。
- 同じ場所に保管していた他のシークレットもローテーションする。
失効またはブロックされたキーは 401 か 403 を返します。監視でこれらを一時的なエラーと扱わないよう、エラーのガイドを参照してください。
キーはどのようにログから漏れますか?
ログは見落としやすい漏えい経路です。HTTP のデバッグログ、エラー報告ツール、プロキシのアクセスログでは Authorization ヘッダーをマスクしてください。サポートに問い合わせるときは、X-Request-ID、タイムスタンプ、ルート、ステータス、キーのエイリアスを送り、キーそのものは決して送らないでください。BroadNet のドキュメントによると、ポータルには各キーのハッシュしか保存されないため、紛失したキーを表示することもできません。
まだ気づいていない漏えいの被害を、どう抑えればよいですか?
ここまでの習慣をすべて守っていても、キーはいつか漏れるかもしれないと考えておきましょう。被害の範囲を小さくします。
- 従量課金の残高は、失っても許容できる水準に保ち、必要に応じてチャージします。
- 負荷の大きいエージェントには定額プランを使います。プランのセッションは料金が固定なので、プランのキーが盗まれてもトークン課金の請求が膨らむことはありません。「無制限」の本当の意味をご覧ください。
- キーごとに、支出やリクエストレートの異常でアラートを出します。LLM API コスト計算ツールで、アラートの基準になる通常の月額を出せます。予算とアラートについては LLM API の支出管理の記事で解説しています。
BroadNet Inference にはどのようなキー管理機能がありますか?
| 管理機能 | BroadNet Inference |
|---|---|
| キーは一度だけ表示、ハッシュで保存 | はい |
| アカウントあたりの有効なキー数 | 最大 10 |
| キーの有効期間 | 1 年 |
| IP 許可リスト | IPv4、IPv6、CIDR を最大 32 件 |
| キーごとの許可リスト | あり(作成時に allowed_ips) |
| 失効が反映されるまで | 5 秒以内 |
| 管理用の別の認証情報 | ポータル認証情報 |
キーはアカウントを守り、ゼロデータ保持はそのアカウント経由で送る内容を守ります。リリース前に両方を読んでおいてください。
