Pular para o conteúdo principal

Visão geral

Os limites de concorrência garantem uso justo e a estabilidade da API. Quantos jobs podem ser executados ao mesmo tempo depende do seu plano.

Limites por plano

O seu plano determina a sua concorrência, que é definida por modelo e contada por usuário. Planos de nível mais alto podem executar mais jobs ao mesmo tempo.
Fale com o time de vendas para detalhes do plano Enterprise e concorrência personalizada.
O backlog também fica desativado para requisições com Zero Data Retention e para alguns modelos, mesmo em planos que normalmente o permitem. No momento, requisições do Krea 2 não entram em backlog em nenhum plano.

Backlog de jobs

Quando o backlog está disponível, os jobs que você envia acima do seu limite de concorrência são aceitos com status: "backlogged". Eles começam, na ordem de envio, à medida que os jobs em execução terminam. Não há um limite separado para o backlog. Quando o backlog não está disponível, um job adicional pode ser rejeitado com HTTP 429 em vez de ser colocado na fila. O limite é aproximado: uma rajada curta ainda pode ser aceita acima dele. Ao receber 429, tente novamente com backoff depois que os jobs em andamento terminarem. O corpo e os cabeçalhos estão em Erros e depuração.
Use webhooks para saber quando um job é concluído, falha ou é cancelado.

Boas práticas

  • Implemente backoff exponencial - Aguarde progressivamente mais entre novas tentativas
  • Enfileire as requisições no cliente - Uma rajada pode ser aceita acima do limite, então não conte com a API para barrar a próxima requisição
  • Monitore seu uso - Acompanhe a contagem de requisições para se manter dentro dos limites
  • Use webhooks - Reduza requisições de polling usando webhooks para a conclusão de jobs

Próximos passos

API Keys & Billing

Monitore o uso e as métricas da sua API

Webhooks

Reduza o polling usando webhooks

Erros e depuração

Corpos de 429, backoff e códigos de jobs com falha