Перейти к основному содержанию

Обзор

Лимиты параллелизма обеспечивают справедливое использование и стабильность API. Количество одновременно выполняемых заданий зависит от вашего тарифа.

Лимиты по тарифам

Тариф определяет ваш уровень параллелизма: он задаётся для каждой модели отдельно и считается на пользователя. Более высокие тарифы позволяют выполнять больше заданий одновременно.
Свяжитесь с отделом продаж, чтобы уточнить детали тарифа Enterprise и индивидуальные настройки параллелизма.
Бэклог также отключён для запросов с Zero Data Retention и для некоторых моделей — даже на тарифах, где он в остальном доступен. Запросы к Krea 2 сейчас не попадают в бэклог ни на одном тарифе.

Бэклог заданий

Если бэклог доступен, задания, отправленные сверх лимита параллелизма, принимаются со статусом status: "backlogged". Они запускаются в порядке отправки по мере завершения выполняющихся заданий. Отдельного лимита на размер бэклога нет. Если бэклог недоступен, очередное задание может быть отклонено с ошибкой HTTP 429, а не поставлено в очередь. Лимит приблизительный: короткий всплеск запросов всё равно может быть принят сверх него. При получении 429 повторите запрос с backoff после завершения уже запущенных заданий. Тело ответа и заголовки описаны в разделе Ошибки и отладка.
Используйте webhooks, чтобы узнавать, когда задание завершилось, завершилось ошибкой или было отменено.

Лучшие практики

  • Реализуйте экспоненциальный backoff — постепенно увеличивайте паузу между повторными попытками
  • Ставьте запросы в очередь на стороне клиента — всплеск запросов может быть принят сверх лимита, поэтому не рассчитывайте, что API остановит следующий запрос
  • Мониторьте использование — отслеживайте количество запросов, чтобы оставаться в пределах лимитов
  • Используйте webhooks — уменьшайте количество опросов, используя webhooks для уведомлений о завершении заданий

Следующие шаги

API-ключи и биллинг

Отслеживайте использование API и метрики

Webhooks

Уменьшите количество опросов с помощью webhooks

Ошибки и отладка

Тела ответов 429, backoff и коды ошибок неудавшихся заданий