Rate limit
Setiap respons yang melewati limiter menyertakan header standar (format IETF
RateLimit-*):
RateLimit-Limit, RateLimit-Remaining, dan RateLimit-Reset. Baca nilai Reset untuk tahu
kapan jendela berikutnya dimulai.
Saat batas terlampaui, responsnya:
Limit kredit per API key
Di luar rate limit, setiap API key bisa diberi limit biaya (USD) dengan jendela reset harian, mingguan, bulanan (kalender UTC), atau total tanpa reset. Pemakaian dihitung dari biaya request nyata per API key. API key yang menyentuh limit ditolak 402 PAYMENT_REQUIRED sampai jendela berikutnya dimulai. Detail pengaturan ada di Autentikasi.Reservasi saldo saat request
Untuk tiap request, gateway:- Mereservasi estimasi biaya (berdasarkan panjang prompt dan
max_tokens) dari saldo akun. - Meneruskan request ke provider.
- Commit biaya nyata berdasarkan token yang terpakai, dan melepas sisa reservasi.
balance (total) dan reserved (tertahan request
berjalan). Yang bisa dipakai request baru adalah balance − reserved (available). Request
yang gagal tidak dikenakan biaya; reservasinya dilepas otomatis.
Memantau pemakaian di console
Masuk ke console.hostlinku.com:
Semua angka berasal dari tabel telemetri backend yang sama dengan yang dipakai penagihan, tanpa
estimasi di sisi tampilan.

