Rate limit - Hostlinku Docs

Batas utama gateway adalah 600 request per menit per API key untuk endpoint /v1/*. Request dari semua model pada key yang sama dihitung bersama dalam jendela 60 detik.

Limit	Kuota	Cakupan
RPM gateway	600 req/menit	Per API key, semua model
RPD	Tidak dibatasi	Dibatasi saldo dan limit kredit key
TPM	Tidak dibatasi	`max_tokens` tetap harus ≤ batas output model
Endpoint `/api/*`	120 req/menit	Per alamat IP
Endpoint autentikasi	30 percobaan / 15 menit	Per alamat IP

Saat limit terlampaui, gateway mengembalikan HTTP 429 dengan:

Retry-After: saran waktu tunggu dalam detik.
RateLimit-Limit, RateLimit-Remaining, RateLimit-Reset: kuota dan sisa jendela.

Request 429 tidak membuat reservasi atau memotong saldo.

Backoff yang disarankan

Baca Retry-After; jika ada, tunggu selama nilai itu.
Jika tidak ada, mulai dari 1 detik dan gandakan setiap percobaan (1, 2, 4, 8 detik) dengan jitter.
Batasi jumlah percobaan, misalnya 5 kali.
Untuk beban tinggi, antrekan request di sisi aplikasi daripada mengirim burst.

​Backoff yang disarankan

Backoff yang disarankan