BroadRouter
Bắt đầu

Khóa API key vào server của bạn bằng danh sách IP cho phép

Cập nhật

Thêm địa chỉ IPv4 hoặc IPv6 đi ra (egress) của server, hoặc dải CIDR, vào danh sách cho phép của tài khoản, tối đa 32 mục. Key mới kế thừa danh sách này trừ khi bạn truyền allowed_ips lúc tạo key. Request từ địa chỉ khác nhận lỗi 403, và thay đổi danh sách hay thu hồi key có hiệu lực trong vòng năm giây.

Key bị lộ là nguyên nhân phổ biến nhất khiến hóa đơn API tăng vọt ngoài kiểm soát. BroadNet Inference cho bạn hai công cụ kiểm soát: danh sách IP cho phép và thu hồi nhanh.

Hai loại thông tin xác thực

Thông tin xác thực Dùng cho Xem nó như
Key inference Request model tới /v1/* Bí mật của một ứng dụng hoặc agent
Thông tin xác thực portal Tự động hóa tài khoản: key, IP được phép, mua hàng Toàn quyền với tài khoản

Cả hai chỉ hiện một lần. Portal chỉ giữ hash SHA-256, nên không thể hiện lại key. Key inference trả theo mức dùng có hiệu lực một năm kể từ khi tạo, và một tài khoản giữ được tối đa mười key đang hoạt động.

Đặt danh sách cho phép

Trên trang tài khoản, thêm mỗi dòng một địa chỉ IPv4 hoặc IPv6 hoặc một dải CIDR, tối đa 32 mục. Danh sách trống nghĩa là không giới hạn IP. Key mới kế thừa danh sách của tài khoản này. Edge kiểm tra IP client mà Cloudflare báo về ở mọi request API.

Để quản lý danh sách tài khoản bằng script, PUT /portal/allowed_ips thay toàn bộ danh sách trong một lần gọi (cần thông tin xác thực portal).

Cấp cho một key danh sách riêng khi bạn tạo nó bằng thông tin xác thực portal:

curl -X POST https://inference.broadnet.ai/portal/keys \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL" \
  -H "Content-Type: application/json" \
  -d '{"label":"worker-1","allowed_ips":["203.0.113.7","198.51.100.0/24"]}'

allowed_ips riêng của key sẽ thay thế danh sách kế thừa từ tài khoản cho key đó. Phản hồi chứa key gốc đúng một lần; hãy lưu lại ngay.

Thu hồi nhanh key bị lộ

DELETE /portal/keys/{alias} thu hồi key trả theo mức dùng, còn DELETE /portal/keys/hourly/{alias} thu hồi key theo giờ (khoản phí mua ban đầu vẫn giữ nguyên). Sau khi thu hồi hoặc đổi danh sách cho phép, request mới dừng trong vòng năm giây.

curl -X DELETE https://inference.broadnet.ai/portal/keys/$KEY_ALIAS \
  -H "Authorization: Bearer $BROADNET_PORTAL_CREDENTIAL"

Đặt KEY_ALIAS là alias hiển thị cho key trên trang tài khoản hoặc trong GET /portal/keys. Alias không phải là key bí mật. Nếu thông tin xác thực portal bị lộ, hãy thu hồi nó bằng DELETE /portal/credentials/{id}: nó làm được mọi việc tài khoản của bạn làm được.

Xử lý sự cố

  • Lỗi 403 từ server đã có trong danh sách. Edge thấy địa chỉ egress công khai của bạn, không phải IP nội bộ của server. Server đứng sau NAT gateway, proxy hoặc load balancer đi ra ngoài bằng địa chỉ của thiết bị đó. Server có IPv6 có thể đi ra bằng IPv6 dù bạn chỉ khai báo địa chỉ IPv4 của nó. Hãy khai báo địa chỉ mà request thực sự đi ra, hoặc một dải CIDR bao trùm địa chỉ đó.
  • Key mới bỏ qua danh sách tài khoản. Mảng allowed_ips riêng của key thay thế danh sách kế thừa từ tài khoản cho key đó. Kiểm tra bạn đã truyền gì lúc tạo.
  • 409 key_limit_reached. Tài khoản đã có mười key đang hoạt động. Hãy thu hồi một key không còn dùng.
  • Request vẫn thành công vài giây sau khi thu hồi. Đây là bình thường trong tối đa năm giây, trong lúc cache cập nhật.

Request từ địa chỉ không có trong danh sách nhận lỗi 403. Xem tất cả mã lỗi của BroadNet và khi nào nên thử lại. Để gửi request đầu tiên với key mới, làm theo hướng dẫn OpenAI Python SDK. Mục từ điển về danh sách IP cho phép giải thích khái niệm này ở mức tổng quát.

A metal key whose bow is shaped like curly braces { }, with the text "One API key. More possibilities."

Câu hỏi thường gặp

Làm sao giới hạn API key LLM chỉ dùng được từ IP server của tôi?

Thêm địa chỉ egress công khai của server, hoặc một dải CIDR, vào danh sách cho phép của tài khoản trên trang tài khoản BroadNet, hoặc truyền allowed_ips khi tạo key qua POST /portal/keys. Request từ mọi địa chỉ khác bị từ chối với lỗi 403.

Danh sách cho phép để trống có chặn mọi thứ không?

Không. Danh sách trống nghĩa là không giới hạn IP, nên key dùng được từ mọi địa chỉ. Hãy thêm ít nhất một mục để bật giới hạn.

Có dùng key inference để tạo key khác được không?

Không. Key inference chỉ gọi các route model /v1/*. Tạo và thu hồi key, đổi IP được phép và mua key theo giờ cần thông tin xác thực portal, vốn mang toàn quyền với tài khoản.

Thu hồi key bị lộ có hiệu lực nhanh đến mức nào?

Tài liệu BroadNet nói request mới dừng trong vòng năm giây sau khi thu hồi hoặc đổi danh sách cho phép, vì quyết định cấp quyền có thể nằm trong cache được nhân bản trong khoảng thời gian đó.

Đọc dạng MarkdownHỏi ChatGPTHỏi ClaudeHỏi Perplexity