Поищите «SLA LLM API» — и получите таблицы, которые противоречат друг другу. В этой статье мы обходимся без чужих таблиц и читаем первоисточник: собственную страницу SLA или условий каждого провайдера, загруженную 15 ноября 2026 г. Для каждого мы отмечаем целевой аптайм, что считается простоем, сервисный кредит, цель по задержке, если есть, и какой уровень обслуживания покрыт. BroadRouter — сайт BroadNet, поэтому BroadNet есть в списке, и это один из провайдеров без SLA при самостоятельном подключении.
Что на самом деле обещает SLA LLM API?
SLA — это письменная цель плюс компенсация. Он не заставляет API работать. Он говорит, что произойдёт с вашим счётом, если API не работает. У каждого SLA ниже одни и те же четыре части:
- Цель. Обычно процент аптайма за месяц по региону, проекту или ресурсу.
- Определение простоя. Почти всегда только серверные ошибки: ответы 500 или 5XX на корректные запросы. 429 из-за лимита запросов простоем не считается. Медленный или неверный ответ — тоже.
- Компенсация. Процент месячного счёта за затронутый сервис, зачисляемый в будущие счета, с потолком.
- Порядок претензии. Вы сами запрашиваете кредит, с собственными логами, в установленный срок.
В минутах проценты выглядят так, для 30-дневного месяца в 43 200 минут:
| Аптайм за месяц | Допустимый простой |
|---|---|
| 99,9% | около 43 минут |
| 99,5% | 216 минут |
| 99,0% | 432 минуты |
| 95,0% | 36 часов |
Какие LLM API публикуют SLA?
Все строки прочитаны на собственной странице провайдера 15 ноября 2026 г. «Не найдено» значит, что на проверенной странице SLA не указан; частный договор это не исключает.
| Провайдер и сервис | Целевой аптайм | Что считается простоем | Кредиты | SLA по задержке | Кого покрывает |
|---|---|---|---|---|---|
| Microsoft Azure, Foundry Models (включая модели Azure OpenAI) | 99,9% | Запросы, вернувшие код ошибки, усреднённо по минутам | 10% ниже 99,9%, 25% ниже 99% | Да, для развёртываний Provisioned Managed и Priority Processing | Foundry Models, продаваемые Azure; уровень Developer исключён |
| Amazon Bedrock | 99,9% (кредиты начинаются ниже) | Запросы, вернувшие код 500, за пятиминутный интервал, по регионам | 10%, 25% ниже 99,0%, 100% ниже 95,0% | В SLA нет | Bedrock в каждом регионе AWS |
| Google, API онлайн-инференса Gemini | 99,5% (95% для моделей с более короткой доступностью) | Доля ошибок 5XX выше 5% в течение 5 или более минут подряд | 10%, 25% ниже 99,0%, 50% ниже 95,0% | Да, при Provisioned Throughput на глобальном эндпоинте | generateContent и streamGenerateContent |
| OpenAI, Scale Tier | 99,9% | На публичной странице не определено | На публичной странице не указаны | 99% времени выше порога токенов в секунду для каждой модели | Корпоративные клиенты, токен-юниты куплены минимум на 30 дней |
| OpenAI, стандартная оплата по факту | Не найдено | – | – | – | – |
| Anthropic API | Не найдено; в условиях — “as is” и “as available” («как есть» и «по мере доступности») | – | – | – | – |
| Fireworks AI, Reserved Throughput | Условия аптайма 99,9% | На странице цен не указано | Не указаны | SLA по пропускной способности | Только зарезервированная мощность; превышение не покрывается |
| Together AI | Serverless: не указано. “Provisioned Throughput: Token-based capacity with SLAs” (перевод: «Provisioned Throughput: мощность на основе токенов с SLA»; условия на странице не опубликованы) | – | – | – | Условия SLA узнавайте у отдела продаж |
| BroadNet Inference, самостоятельное подключение | Нет: “no availability commitment” («нет обязательств по доступности») | – | – | – | Уровни обслуживания только в отдельном письменном соглашении |
Чем различаются SLA гиперскейлеров?
Microsoft Azure. На странице Microsoft Learn сказано, что Foundry Models, продаваемые Azure, “include all Azure OpenAI models” (перевод: «включают все модели Azure OpenAI») и “covered by Azure service-level agreements” (перевод: «покрываются соглашениями об уровне обслуживания Azure»). Сводное SLA (редакция октября 2026 г.) определяет Error Rate поминутно, а Uptime Percentage — как 100% минус средняя доля ошибок. Кредиты: 10% ниже 99,9% и 25% ниже 99%. Кредиты применяются только к Foundry Models, продаваемым Azure, и “The Developer tier of the Foundry Models service is not covered by this SLA.” (перевод: «Уровень Developer сервиса Foundry Models этим SLA не покрывается».) Для развёртываний Provisioned Managed и Priority Processing второе SLA измеряет токены в секунду относительно цели для каждой модели из документации продукта, с кредитом 10%, если выполнение падает ниже 99%.
Amazon Bedrock. AWS обязуется прилагать “commercially reasonable efforts” (перевод: «коммерчески разумные усилия»), чтобы выполнять таблицу аптайма. Доступность — это “the percentage of Requests processed by Amazon Bedrock that do not fail with Errors” (перевод: «доля запросов, обработанных Amazon Bedrock, которые не завершились ошибками»), а ошибка — “any Request that returns a 500 error code” (перевод: «любой запрос, вернувший код ошибки 500»). Расчёт идёт по регионам, а интервалы без запросов считаются полностью доступными. Исключения включают действия клиента, например “scaling of provisioned throughput” (перевод: «масштабирование зарезервированной пропускной способности»), и программное обеспечение модели, вызывающее “repeated model crashes or an inoperable model” (перевод: «повторяющиеся падения модели или неработоспособную модель»). Цели по задержке в SLA нет.
Google Cloud. SLA онлайн-инференса Gemini строже всех в том, что считать простоем. Для простоя нужна доля ответов 5XX выше 5%, длящаяся “five or more consecutive minutes” (перевод: «пять или более минут подряд»). Кредиты ограничены 50% месячного счёта за сервис, уведомить поддержку нужно в течение 30 дней с файлами логов, а SLA — ваше “sole and exclusive remedy” (перевод: «единственное и исключительное средство защиты»). Исключены Grounding with Google Search, ошибки квот и дедлайны короче серверного значения по умолчанию. При Provisioned Throughput SLA по задержке покрывает некоторые модели Gemini 2.5 на глобальном эндпоинте и измеряется как p50 токенов в секунду за пятиминутный интервал. Если же вы разворачиваете собственную открытую модель на Vertex AI, отдельное SLA Vertex AI Platform покрывает онлайн-предсказания кастомных моделей на 99,5%, но только “for models deployed on 2 or more nodes” (перевод: «для моделей, развёрнутых на 2 или более узлах»).
А что у OpenAI и Anthropic напрямую?
OpenAI. На странице Scale Tier сказано: “Scale Tier traffic offers a 99.9% uptime SLA and prioritized compute.” (перевод: «Трафик Scale Tier даёт SLA на 99,9% аптайма и приоритетные вычисления».) Таблица дополняет это SLA по задержке для каждой модели, например “99% > 50 tokens per second” (перевод: «99% > 50 токенов в секунду»), рассчитанным как p50 задержки запроса за 5 минут. На странице сказано “This offering is available to Enterprise customers” (перевод: «Это предложение доступно корпоративным клиентам»), что каждый токен-юнит покупается “for a minimum of 30 days” (перевод: «минимум на 30 дней») и что Scale Tier покрывает модели, выпущенные до GPT-5.6, а для более поздних моделей есть Reserved Tier. SLA по аптайму для стандартного использования с оплатой по факту мы не нашли. (openai.com заблокировал наш загрузчик, поэтому мы читали страницу по снимку Internet Archive от 7 ноября 2026 г.)
Anthropic. Публичные Commercial Terms (действуют с 17 июня 2025 г.) не содержат ни SLA, ни сервисных кредитов. Раздел L.2 предоставляет сервисы “AS IS” и “AS AVAILABLE” (перевод: «КАК ЕСТЬ» и «ПО МЕРЕ ДОСТУПНОСТИ») и отказывается гарантировать, что использование “WILL BE UNINTERRUPTED” (перевод: «БУДЕТ БЕСПЕРЕБОЙНЫМ»). Корпоративные соглашения могут отличаться, но они не публикуются.
Чего SLA вам не даёт?
- Самого аптайма. Кредит выплачивается после сбоя. Ваши пользователи его всё равно видели.
- Мощности. Троттлинг (429) не входит ни в одно из определений аптайма выше. Google прямо исключает “quotas applied by the system” (перевод: «квоты, применяемые системой»). См. как обрабатывать ошибки 429.
- Скорости. Цель по токенам в секунду есть только у зарезервированных уровней. На стандартном трафике медленный ответ — это успешный ответ. Метрики задержки.
- Качества. Ответ 200 с неверным ответом нигде не считается простоем.
- Больших денег. Кредиты — это доля месячного счёта за один сервис, часто с потолком, и требовать их нужно с собственными логами.
Как строить продукт на API без SLA?
Большинство команд строят продукты на API с оплатой по факту без SLA. Это работает, если приложение рассчитано на сбои:
- Задайте тайм-ауты. Стримьте длинные ответы и задавайте тайм-аут клиента для каждого запроса, чтобы зависший вызов быстро падал. Руководство по стримингу.
- Повторяйте с задержкой и jitter на 429 и 5XX и ограничьте число повторов. Ошибки и повторы.
- Держите второго провайдера настроенным. С OpenAI-совместимыми API резерв — это второй базовый URL, ключ и ID модели. Как переключаться между LLM API.
- Логируйте ID запросов, метки времени и коды состояния. Они нужны для любой претензии по SLA и чтобы видеть свою реальную долю ошибок.
- Покупайте договор там, где он нужен. Если аптайм — жёсткое требование, используйте уровень провайдера с письменным SLA или приватное развёртывание с согласованными уровнями обслуживания. Что спланировать перед приватным эндпоинтом.
Какое место здесь занимает BroadNet Inference
BroadRouter — собственный сайт BroadNet. У API BroadNet с самостоятельным подключением SLA нет — ни при оплате по факту, ни на тарифах. В условиях обслуживания (§7.4) сказано: “We aim to keep the API available and publish what we measure, but self-serve has no availability commitment.” (перевод: «Мы стремимся поддерживать доступность API и публикуем то, что измеряем, но у самостоятельного подключения нет обязательств по доступности».) И ещё: “Service levels exist only in a separate written agreement.” (перевод: «Уровни обслуживания существуют только в отдельном письменном соглашении».) В этом Azure, AWS и Google предлагают больше: письменную цель по аптайму с кредитами. Ключ BroadNet с оплатой по факту допускает 30 запросов в минуту и 4 одновременно. Собственное описание BroadNet того, как устроено обслуживание, — в статье GPU-оборудование BroadNet и подход к обслуживанию; мы передаём его как рассказ BroadNet, а не как обязательство.
Если ваша нагрузка может работать с повторами и резервом, OpenAI-совместимый эндпоинт BroadNet — ещё один базовый URL для настройки: https://inference.broadnet.ai/v1. Если вам нужны уровни обслуживания по договору, спросите BroadNet о письменном соглашении, прежде чем на него полагаться. Прочитать справочник API или создать аккаунт.
