メインコンテンツへスキップ
Hostlinkuでは、相互に補完し合う3つの層で利用制限が設けられています。それは、レート制限(一定時間あたりのリクエスト数)、APIキーごとのクレジット制限(リセット期間ごとの費用)、およびアカウント残高(資金源)です。 これら3つは、リクエストがプロバイダーに転送される前に、サーバー側でチェックされます。

レート制限

リミッターを通過するすべての応答には、標準ヘッダー(IETF RateLimit-* 形式)が含まれます:RateLimit-Limit、RateLimit-Remaining、および RateLimit-Reset。 Resetの値を確認することで、次のウィンドウがいつ開始されるかを知ることができます。 制限を超えた際の反応は:

APIキーごとのクレジット上限

レート制限とは別に、各APIキーには、費用制限(USD)を設定できます。リセット間隔は、毎日、毎週、毎月(UTCカレンダー)、またはリセットなしの合計額から選択可能です。使用量は、APIキーごとの実際のリクエスト費用に基づいて計算されます。 制限に達したAPIキーは、次のリセット期間が開始されるまで402 PAYMENT_REQUIREDとして拒否されます。設定の詳細については、認証をご覧ください。

リクエスト時の残高確保

各リクエストに対して、ゲートウェイは:
  1. 予約 見積もり費用(プロンプトの長さとmax_tokensに基づく)を口座残高から引き落とす。
  2. リクエストをプロバイダーに転送します。
  3. コミット:使用されたトークンに基づいて実際の費用を確定し、残りの予約を解除する。
つまり、コンソールの残高は balance(合計)と reserved(保留中のリクエスト)に分かれています。新しいリクエストに使用できるのは balance − reserved(available)です。 失敗したリクエストには料金は発生しません。予約は自動的に解除されます。

コンソールでの使用状況を監視する

console.hostlinku.com にアクセスしてください: すべての数値は、課金に使用されているものと同じバックエンドのテレメトリテーブルから取得されており、表示側での推定値は含まれていません。

429および402の挙動の概要