Rate Limits

Ikhtisar

Batas konkurensi menjaga penggunaan tetap adil dan API tetap stabil. Jumlah job yang dapat berjalan bersamaan bergantung pada plan Anda.

Batas berdasarkan Plan

Plan Anda menentukan konkurensi Anda, yang diatur per model dan dihitung per pengguna. Plan tier yang lebih tinggi dapat menjalankan lebih banyak job secara bersamaan. Backlog juga nonaktif untuk permintaan Zero Data Retention dan untuk beberapa model, termasuk pada plan yang sebenarnya mengizinkannya. Permintaan Krea 2 saat ini tidak di-backlog pada plan apa pun.

Job Backlog

Jika backlog tersedia, job yang Anda kirim melebihi batas konkurensi Anda diterima dengan status: "backlogged". Job tersebut mulai diproses, sesuai urutan pengiriman, saat job yang sedang berjalan selesai. Tidak ada batas backlog terpisah. Jika backlog tidak tersedia, job berikutnya dapat ditolak dengan HTTP 429 alih-alih dimasukkan ke antrean. Batas ini bersifat perkiraan: lonjakan singkat masih dapat diterima melebihi batas tersebut. Saat menerima 429, lakukan retry dengan backoff setelah job yang sedang berjalan selesai. Body dan header respons dijelaskan di Error dan debugging.

Praktik Terbaik

• Terapkan exponential backoff - Tunggu lebih lama secara bertahap di antara retry
• Antrekan permintaan di sisi klien - Lonjakan dapat diterima melebihi batas, jadi jangan mengandalkan API untuk menghentikan permintaan berikutnya
• Pantau penggunaan Anda - Lacak jumlah request agar tetap di dalam batas
• Gunakan webhooks - Kurangi permintaan polling dengan menggunakan webhooks untuk penyelesaian job

Langkah Berikutnya