BroadRouter
Начать

Коды ошибок BroadNet Inference и когда повторять запрос

Обновлено

Сначала проверьте HTTP-статус, потом разбирайте тело ответа. Ошибки 429 и 5xx повторяйте с экспоненциальной задержкой и ограниченным числом попыток. Ошибки 400, 403, 413 и 422 сначала исправьте. При 401 проверьте ключ и баланс, при 402 пополните аккаунт. Всегда записывайте заголовок X-Request-ID для поддержки.

API возвращает обычный HTTP-статус и машиночитаемый код ошибки. Следующий шаг выбирайте по статусу. Таблица составлена по справочнику API BroadNet.

Статус Что означает Что делать
400 / 422 Неверный запрос или поле Сначала исправьте запрос
401 Ключ отсутствует, неверен или истёк, заблокирован бюджет оплаты по факту или исчерпан лимит Проверьте статус ключа и баланс аккаунта
402 insufficient_balance На аккаунте не хватает средств на покупку; в теле ответа указаны баланс и цена Пополните аккаунт и повторите
403 Отклонено политикой модели, маршрута или IP Устраните несоответствие, например в белом списке IP
409 Конфликт с состоянием аккаунта: mint_in_progress, key_limit_reached, credential_limit_reached, key_pending Повторяйте только mint_in_progress, с тем же request_id
413 Слишком большой запрос; файлы для транскрибации ограничены 26 214 400 байтами Уменьшите запрос
429 Достигнут лимит частоты, параллельности, токенов в минуту или расходов Прочитайте подробности в ответе, сделайте паузу и повторите
500 / 502 / 503 / 504 Ошибка обработки на стороне сервера Повторите с экспоненциальной задержкой и ограниченным числом попыток; при покупке почасового ключа используйте тот же request_id

Документация BroadNet советует проверять HTTP-статус до того, как разбирать JSON-тело, а затем читать машиночитаемый код error, если он есть.

Какие лимиты вызывают 429?

Ключ с оплатой по факту допускает 30 запросов в минуту, а одновременно выполняемых — не больше 4. Для почасового ключа документация BroadNet указывает 120 запросов в минуту, один поток и 300,000 токенов в минуту. На безлимитном тарифе каждая сессия обрабатывает один запрос за раз. Как эти лимиты соотносятся с OpenAI, Anthropic, Groq и DeepSeek, читайте в статье лимиты LLM API у разных провайдеров.

Как настроить повторы в OpenAI SDK?

OpenAI Python SDK уже повторяет запросы при ошибках соединения, 408, 409, 429 и 5xx — по умолчанию дважды, с короткой экспоненциальной задержкой. Так написано в его README на GitHub. Таймаут по умолчанию — 10 минут. Задайте оба значения явно (в комментариях к коду: 0 отключает автоматические повторы, таймаут указан в секундах, и для длинных ответов с рассуждениями его стоит увеличить):

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://inference.broadnet.ai/v1",
    api_key=os.environ["BROADNET_API_KEY"],
    max_retries=4,   # 0 turns automatic retries off
    timeout=120,     # seconds; raise it for long reasoning answers
)

Как написать свою экспоненциальную задержку?

Если вы вызываете API без SDK, ограничьте и число попыток, и время ожидания:

import random, time, requests

RETRY = {429, 500, 502, 503, 504}

def post_with_backoff(url, headers, body, tries=5):
    for attempt in range(tries):
        r = requests.post(url, headers=headers, json=body, timeout=120)
        if r.status_code not in RETRY:
            return r                      # success, or an error to fix rather than retry
        time.sleep(min(30, 2 ** attempt) + random.random())
    return r

Никогда не повторяйте без изменений запросы, получившие 400, 403, 413 или 422: тот же запрос упадёт так же. Каждый повтор чат-запроса — это новый инференс, и при оплате по факту он оплачивается заново. Общий подход описан в статье экспоненциальная задержка.

Как безопасно повторить покупку почасового ключа

POST /portal/keys/hourly принимает request_id. После таймаута, обрыва соединения, ошибки 409 mint_in_progress или 5xx повторяйте запрос с тем же request_id. Повторно использованный request_id никогда не создаёт и не оплачивает второй ключ: повтор возвращает already_issued: true и алиас ключа. Не генерируйте новый id, пока не узнаете результат первого запроса. Подробнее — в статье о ключах идемпотентности.

Решение проблем

  • 401 сразу после пополнения. Страница аккаунта BroadNet показывает последний учтённый лимит и, пока изменение баланса применяется, помечает его как обновляющееся. Обновите страницу и повторите, когда процесс завершится.
  • 429 всего при нескольких запросах в минуту. Скорее всего, вы упираетесь в лимит параллельности (4 одновременных), например из-за длинных потоков, идущих параллельно. Используйте небольшой пул воркеров.
  • 403 на одной модели, но не на другой. Политика ключа не покрывает эту модель или маршрут. Например, ключи тарифов предназначены для broadnet/deepseek-v4.1-flash, а почасовой ключ покрывает только broadnet/gemma-4-26b-a4b.
  • SDK повторил запрос, и с вас списали дважды. Повторный чат-запрос — это новый инференс. Задайте max_retries=0 там, где дублированный ответ обходится дороже неудачного.

Что отправить в поддержку

Укажите значение заголовка X-Request-ID, время в UTC, маршрут, HTTP-статус и алиас ключа. Никогда не отправляйте сам ключ. Как прочитать заголовок, показано в руководстве по OpenAI Python SDK.

Вопросы и ответы

Нужно ли повторять запрос после ошибки 429 от LLM API?

Да, с экспоненциальной задержкой и ограниченным числом попыток. В BroadNet Inference 429 означает, что достигнут лимит частоты, параллельности, токенов в минуту или расходов. Если ошибка повторяется, уменьшите параллельность, а если причина в лимите расходов, прекратите повторы.

Почему я получаю 401, хотя ключ правильный?

В BroadNet 401 означает не только неверный или истёкший ключ, но и исчерпанный лимит оплаты по факту или заблокированный бюджет. Проверьте баланс аккаунта и статус ключа на странице аккаунта.

Чем здесь 401 отличается от 403?

401 касается ключа или доступного лимита аккаунта. 403 означает, что ключ рабочий, но запрос отклонила политика модели, маршрута или IP, например вызов с адреса, которого нет в белом списке.

Повторяет ли OpenAI SDK запросы автоматически?

Да. OpenAI Python SDK по умолчанию дважды повторяет запрос при ошибках соединения, 408, 409, 429 и 5xx с короткой экспоненциальной задержкой. Чтобы изменить число попыток, задайте max_retries, а чтобы отключить повторы — 0.

Открыть в MarkdownСпросить ChatGPTСпросить ClaudeСпросить Perplexity