Limites de débit

Aperçu

Les limites de concurrence garantissent une utilisation équitable et la stabilité de l’API. Le nombre de jobs pouvant s’exécuter simultanément dépend de votre plan.

Limites par plan

Votre plan détermine votre concurrence, qui est définie par modèle et comptabilisée par utilisateur. Les plans de niveau supérieur peuvent exécuter davantage de jobs en même temps. Le backlog est également désactivé pour les requêtes Zero Data Retention et pour certains modèles, y compris sur les plans qui l’autorisent par ailleurs. Les requêtes Krea 2 ne sont actuellement mises en backlog sur aucun plan.

Backlog de jobs

Lorsque le backlog est disponible, les jobs que vous soumettez au-delà de votre limite de concurrence sont acceptés avec status: "backlogged". Ils démarrent, dans leur ordre de soumission, au fur et à mesure que les jobs en cours se terminent. Il n’existe pas de plafond distinct pour le backlog. Lorsque le backlog n’est pas disponible, un job supplémentaire peut être rejeté avec une erreur HTTP 429 au lieu d’être mis en file d’attente. Le plafond est approximatif : une courte rafale peut tout de même être acceptée au-delà. En cas de 429, réessayez avec un backoff une fois les jobs en cours terminés. Le corps et les en-têtes de la réponse sont décrits dans Erreurs et débogage.

Bonnes pratiques

• Implémentez un backoff exponentiel — attendez progressivement plus longtemps entre les nouvelles tentatives
• Mettez en file d’attente les requêtes côté client — une rafale peut être acceptée au-delà du plafond, ne comptez donc pas sur l’API pour bloquer la requête suivante
• Surveillez votre utilisation — suivez le nombre de requêtes pour rester dans les limites
• Utilisez les webhooks — réduisez les requêtes de polling en utilisant les webhooks pour la fin des jobs

Étapes suivantes