Um einen LLM-API-Schlüssel abzusichern, bewahren Sie ihn in einem Secret Manager auf und rufen das Modell nur von Ihrem Server auf, nie aus einem Browser oder einer App. Geben Sie jedem Workload einen eigenen Schlüssel, rotieren Sie Schlüssel planmäßig, binden Sie sie per Allowlist an die IPs Ihrer Server, und widerrufen Sie einen geleakten Schlüssel zuerst; untersucht wird danach.
Dieser Beitrag behandelt die Gewohnheiten, die Schlüssel sicher halten, mit den konkreten Kontrollen, die BroadNet Inference bietet. Die einzelnen Klicks im Portal zeigt der Leitfaden zu API-Schlüsseln und IP-Allowlists; Budgets und Schutz vor außer Kontrolle geratenen Schleifen behandelt Ausgabenkontrolle bei LLM-APIs.
Wo sollten Sie einen LLM-API-Schlüssel speichern?
Speichern Sie Schlüssel in einem Secret Manager oder den verschlüsselten Secrets Ihrer Plattform, nie im Code. Das OWASP Secrets Management Cheat Sheet behandelt die Optionen ausführlich. Beachten Sie seine Warnung: Umgebungsvariablen „are generally accessible to all processes and may be included in logs or system dumps“ (Übersetzung: sind in der Regel für alle Prozesse zugänglich und können in Logs oder System-Dumps landen); OWASP bevorzugt daher eingehängte Secret-Dateien oder das Abrufen aus einem Secret Store, wo Sie die Wahl haben. Eine Umgebungsvariable, die beim Start aus einem Secret Manager befüllt wird, ist der übliche Mittelweg.
import os
from openai import OpenAI
client = OpenAI(
base_url="https://inference.broadnet.ai/v1",
api_key=os.environ["BROADNET_API_KEY"], # fails loudly if missing
)
Verwenden Sie os.environ[...], nicht os.getenv(...) mit fest codiertem Fallback; über solche Fallbacks landen Schlüssel in Git. Für die lokale Entwicklung ist eine .env-Datei in Ordnung, wenn sie ab dem ersten Commit in .gitignore steht. Aktivieren Sie Secret Scanning und Push Protection bei Ihrem Git-Host. Auf GitHub blockiert Push Protection Pushes mit bekannten Secret-Formaten, bevor sie das Repository erreichen; Push Protection für Nutzer ist standardmäßig aktiv, Push Protection auf Repository-Ebene dagegen standardmäßig aus und muss von einem Repository-Administrator oder Organisationsinhaber eingeschaltet werden.
Darf ein API-Schlüssel in einen Browser oder eine mobile App?
Nein. Alles, was an einen Client ausgeliefert wird, lässt sich extrahieren. Frontend-Code und App-Bundles sind öffentlich, egal wie minifiziert oder verschleiert. Rufen Sie das LLM von Ihrem Server auf, authentifizieren Sie dort Ihre eigenen Nutzer und wenden Sie eigene Limits pro Nutzer an, bevor Sie weiterleiten.
Dasselbe gilt für Desktop-Tools, die Sie an andere weitergeben. Braucht ein Teammitglied Zugang zu einem Coding-Agenten, geben Sie ihm einen eigenen Schlüssel auf einem eigenen Konto, statt einen zu teilen.
Warum ein eigener Schlüssel pro Workload?
Bei BroadNet Inference kann ein Konto bis zu zehn aktive Schlüssel haben. Nutzen Sie sie:
| Schlüssel-Label | Genutzt von |
|---|---|
prod-api |
Produktiv-Backend |
prod-worker |
Batch-Jobs |
staging |
Staging-Umgebung |
agent-ci |
Coding-Agent in der CI |
dev-laptop-<name> |
Lokale Entwicklung |
Leakt einer, widerrufen Sie nur diesen Schlüssel, und die anderen funktionieren weiter. Labels machen auch die Nutzung lesbar: Sie sehen, welcher Workload was ausgibt. Benennen Sie Schlüssel nach dem, was sie nutzt, nicht nach der Person, die sie angelegt hat.
Wie schützen IP-Allowlists einen Schlüssel?
Mit einer IP-Allowlist funktioniert ein gestohlener Schlüssel nirgends außer auf Ihrer eigenen Infrastruktur. Bei BroadNet Inference gilt:
- Die Allowlist des Kontos fasst bis zu 32 Einträge, eine IPv4- oder IPv6-Adresse oder ein CIDR-Bereich pro Zeile.
- Eine leere Liste bedeutet keine Einschränkung.
- Neue Schlüssel übernehmen die Liste des Kontos, es sei denn, Sie legen einen Schlüssel mit eigenen
allowed_ipsan; diese ersetzen für diesen Schlüssel die übernommene Liste. - Eine Anfrage von einer Adresse außerhalb der Liste wird mit 403 abgelehnt („refused by model, route or IP policy“; Übersetzung: abgelehnt durch Modell-, Routen- oder IP-Richtlinie).
Legen Sie einen Schlüssel mit eigener Liste über die Portal-API an:
curl -X POST https://inference.broadnet.ai/portal/keys \
-H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
-H "Content-Type: application/json" \
-d '{"label":"prod-worker","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'
Die Antwort enthält den Rohschlüssel genau einmal. Legen Sie ihn sofort in Ihrem Secret Manager ab; er lässt sich nicht erneut auslesen. Alle Schritte stehen im Leitfaden zu IP-Allowlists.
Allowlists eignen sich für Server mit stabilen ausgehenden IPs: ein VPS, ein NAT-Gateway, eine feste Büro-IP. Für Laptops in wechselnden Netzen verwenden Sie einen separaten Schlüssel ohne Liste und halten das Guthaben, auf das er Zugriff hat, klein.
Warum Inferenzschlüssel und Admin-Zugangsdaten trennen?
BroadNet nutzt zwei Arten von Zugangsdaten:
| Zugangsdaten | Können | Aufbewahren |
|---|---|---|
| Inferenzschlüssel | Modellanfragen an /v1/* |
Dort, wo die App läuft |
| Portal-Zugangsdaten | Schlüssel anlegen und widerrufen, erlaubte IPs ändern, Käufe tätigen | Nur in Ihrer Automatisierung oder Ihren Admin-Tools |
Laut Doku sind Portal-Zugangsdaten wie volle Kontovollmacht zu behandeln. Deployen Sie Portal-Zugangsdaten nie neben Ihrer Anwendung. Wird Ihr App-Server kompromittiert, soll der Angreifer einen Inferenzschlüssel erbeuten, nicht die Kontrolle über das Konto.
Wie oft sollten Sie API-Schlüssel rotieren?
OWASP empfiehlt regelmäßige Rotation, „so that any stolen credentials will only work for a short time“ (Übersetzung: damit gestohlene Zugangsdaten nur kurze Zeit funktionieren). Schlüssel von BroadNet gelten ein Jahr ab Erstellung, jeder Schlüssel muss also ohnehin ersetzt werden. Machen Sie Rotation zur Routine:
- Legen Sie einen neuen Schlüssel mit demselben Label-Muster und derselben Allowlist an.
- Deployen Sie ihn neben dem alten, oder tauschen Sie das Secret und starten Sie neu.
- Beobachten Sie, wie der Traffic auf den neuen Schlüssel wechselt.
- Widerrufen Sie den alten Schlüssel mit
DELETE /portal/keys/{alias}.
Da ein Konto bis zu zehn aktive Schlüssel haben kann, können sich alter und neuer Schlüssel einige Minuten überschneiden, ohne Ausfallzeit. Rotieren Sie früher bei Schlüsseln, auf die ein ausscheidendes Teammitglied Zugriff hatte.
Was tun Sie, wenn ein Schlüssel geleakt ist?
Wenn ein Schlüssel leakt, widerrufen Sie ihn zuerst und untersuchen danach. Bei BroadNet Inference stoppen neue Anfragen innerhalb von fünf Sekunden nach einem Widerruf oder einer Änderung der Allowlist; die Doku erklärt, dass Autorisierungsentscheidungen für dieses begrenzte Intervall in einem replizierten Cache bleiben können.
Nach dem Widerruf:
- prüfen Sie die Nutzung des Schlüssels auf der Kontoseite oder mit
GET /portal/usage; - finden Sie heraus, wie er geleakt ist (Commit-Historie, CI-Logs, ein geteilter Screenshot);
- rotieren Sie alle anderen Secrets, die am selben Ort lagen.
Ein widerrufener oder blockierter Schlüssel liefert 401 oder 403; lesen Sie den Leitfaden zu Fehlern, damit Ihr Monitoring diese nicht als vorübergehend behandelt.
Wie leaken Schlüssel über Logs?
Logs sind ein leicht übersehenes Leck. Schwärzen Sie den Authorization-Header in HTTP-Debug-Logs, Fehlerreportern und Access-Logs von Proxys. Wenn Sie den Support kontaktieren, senden Sie X-Request-ID, Zeitstempel, Route, Status und den Alias des Schlüssels, nie den Schlüssel selbst. Laut Doku von BroadNet speichert das Portal nur einen Hash jedes Schlüssels und kann Ihnen einen verlorenen Schlüssel daher auch nicht anzeigen.
Wie begrenzen Sie den Schaden eines Lecks, das Sie noch nicht bemerkt haben?
Selbst mit allen Gewohnheiten oben sollten Sie annehmen, dass ein Schlüssel eines Tages leakt. Verkleinern Sie den möglichen Schaden:
- Halten Sie das Pay-as-you-go-Guthaben auf einem Niveau, dessen Verlust Sie verschmerzen können, und laden Sie nach Bedarf auf.
- Nutzen Sie für intensive Agenten einen Flatrate-Plan: Eine Plan-Session hat einen festen Preis, ein gestohlener Plan-Schlüssel kann also keine Rechnung pro Token in die Höhe treiben. Siehe was „unbegrenzt“ wirklich bedeutet.
- Richten Sie Alarme für ungewöhnliche Ausgaben oder Anfrageraten pro Schlüssel ein; der LLM-API-Kostenrechner liefert Ihnen einen normalen Monatswert als Vergleich. Unser Beitrag zur Ausgabenkontrolle bei LLM-APIs behandelt Budgets und Alarme.
Welche Schlüsselkontrollen bietet BroadNet Inference?
| Kontrolle | BroadNet Inference |
|---|---|
| Schlüssel einmal angezeigt, gehasht gespeichert | Ja |
| Aktive Schlüssel pro Konto | Bis zu 10 |
| Laufzeit eines Schlüssels | Ein Jahr |
| IP-Allowlist | Bis zu 32 IPv4-, IPv6- oder CIDR-Einträge |
| Allowlist pro Schlüssel | Ja, allowed_ips bei der Erstellung |
| Widerruf greift | Innerhalb von fünf Sekunden |
| Separate Admin-Zugangsdaten | Portal-Zugangsdaten |
Schlüssel schützen Ihr Konto; Zero Data Retention schützt, was Sie darüber senden. Lesen Sie beides, bevor Sie live gehen.
