BroadRouter
Начать

Привязка API-ключей к серверам через белый список IP

Обновлено

Добавьте исходящие IPv4- или IPv6-адреса своих серверов или диапазоны CIDR в белый список аккаунта, до 32 записей. Новые ключи наследуют этот список, если при создании ключа не передать allowed_ips. Запросы с других адресов получают 403, а изменения списка и отзыв ключа вступают в силу в течение пяти секунд.

Утёкший ключ — самая частая причина, по которой счёт за API выходит из-под контроля. BroadNet Inference даёт два инструмента защиты: белый список IP и быстрый отзыв ключа.

Два вида учётных данных

Учётные данные Для чего Как к ним относиться
Ключ инференса Запросы к моделям через /v1/* Секрет одного приложения или агента
Учётные данные портала Автоматизация аккаунта: ключи, разрешённые IP, покупки Полные права на аккаунт

И те и другие показываются один раз. Портал хранит только хеш SHA-256, поэтому показать ключ повторно не может. Ключ инференса с оплатой по факту действует один год с момента создания, а на аккаунте может быть не больше десяти активных ключей.

Настройка белого списка

На странице аккаунта добавьте по одному адресу IPv4 или IPv6 или диапазону CIDR на строку, всего до 32 записей. Пустой список означает отсутствие ограничений по IP. Новые ключи наследуют этот список аккаунта. Edge-сервер проверяет IP клиента, который сообщает Cloudflare, при каждом запросе к API.

Чтобы управлять списком аккаунта из скрипта, используйте PUT /portal/allowed_ips: он заменяет список одним вызовом (нужны учётные данные портала).

Отдельному ключу можно задать собственный список при создании через учётные данные портала:

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"worker-1","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

Собственный allowed_ips ключа заменяет для этого ключа унаследованный список аккаунта. Ответ один раз содержит ключ в открытом виде; сохраните его сразу.

Быстрый отзыв утёкшего ключа

DELETE /portal/keys/{alias} отзывает ключ с оплатой по факту, а DELETE /portal/keys/hourly/{alias} — почасовой ключ (оплата за исходную покупку не возвращается). После отзыва или изменения белого списка новые запросы прекращаются в течение пяти секунд.

curl -X DELETE https://inference.broadnet.ai/portal/keys/$KEY_ALIAS \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL"

Задайте в KEY_ALIAS псевдоним, который показан для ключа на странице аккаунта или в GET /portal/keys. Псевдоним — это не секретный ключ. Если утекли учётные данные портала, отзовите их через DELETE /portal/credentials/{id}: они могут делать всё, что может ваш аккаунт.

Решение проблем

  • 403 с сервера, который есть в списке. Edge-сервер видит ваш публичный исходящий адрес, а не частный IP сервера. Серверы за NAT-шлюзом, прокси или балансировщиком нагрузки выходят в сеть с адреса этого устройства. Сервер с IPv6 может выходить по IPv6, даже если в списке указан только его IPv4-адрес. Добавьте адрес, с которого запрос действительно уходит, или диапазон CIDR, который его покрывает.
  • Новый ключ игнорирует список аккаунта. Массив allowed_ips ключа заменяет для этого ключа унаследованный список аккаунта. Проверьте, что вы передали при создании.
  • 409 key_limit_reached. На аккаунте уже десять активных ключей. Отзовите тот, которым больше не пользуетесь.
  • Запросы ещё проходят несколько секунд после отзыва. Это ожидаемо в течение пяти секунд, пока кэш не обновится.

Запрос с адреса, которого нет в списке, получает 403. См. все коды ошибок BroadNet и когда повторять запрос. Чтобы отправить первый запрос с новым ключом, воспользуйтесь руководством по OpenAI Python SDK. Статья глоссария о белом списке IP объясняет идею в общих чертах.

A metal key whose bow is shaped like curly braces { }, with the text "One API key. More possibilities."

Вопросы и ответы

Как ограничить API-ключ LLM IP-адресом моего сервера?

Добавьте публичный исходящий адрес сервера или диапазон CIDR в белый список на странице аккаунта BroadNet либо передайте allowed_ips при создании ключа через POST /portal/keys. Запросы с любого другого адреса отклоняются с кодом 403.

Пустой белый список блокирует всё?

Нет. Пустой список означает отсутствие ограничений по IP, и ключ работает с любого адреса. Чтобы включить ограничение, добавьте хотя бы одну запись.

Можно ли ключом инференса создавать другие ключи?

Нет. Ключи инференса вызывают только маршруты моделей /v1/*. Для создания и отзыва ключей, изменения разрешённых IP и покупки почасовых ключей нужны учётные данные портала, а они дают полные права на аккаунт.

Как быстро срабатывает отзыв утёкшего ключа?

Документация BroadNet говорит, что новые запросы прекращаются в течение пяти секунд после отзыва или изменения белого списка: решения об авторизации могут храниться в реплицируемом кэше до этого срока.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity