レート制限
リミッターを通過するすべての応答には、標準ヘッダー(IETF
RateLimit-* 形式)が含まれます:RateLimit-Limit、RateLimit-Remaining、および RateLimit-Reset。 Resetの値を確認することで、次のウィンドウがいつ開始されるかを知ることができます。
制限を超えた際の反応は:
APIキーごとのクレジット上限
レート制限とは別に、各APIキーには、費用制限(USD)を設定できます。リセット間隔は、毎日、毎週、毎月(UTCカレンダー)、またはリセットなしの合計額から選択可能です。使用量は、APIキーごとの実際のリクエスト費用に基づいて計算されます。 制限に達したAPIキーは、次のリセット期間が開始されるまで402 PAYMENT_REQUIREDとして拒否されます。設定の詳細については、認証をご覧ください。リクエスト時の残高確保
各リクエストに対して、ゲートウェイは:- 予約 見積もり費用(プロンプトの長さと
max_tokensに基づく)を口座残高から引き落とす。 - リクエストをプロバイダーに転送します。
- コミット:使用されたトークンに基づいて実際の費用を確定し、残りの予約を解除する。
balance(合計)と reserved(保留中のリクエスト)に分かれています。新しいリクエストに使用できるのは balance − reserved(available)です。 失敗したリクエストには料金は発生しません。予約は自動的に解除されます。
コンソールでの使用状況を監視する
console.hostlinku.com にアクセスしてください:
すべての数値は、課金に使用されているものと同じバックエンドのテレメトリテーブルから取得されており、表示側での推定値は含まれていません。

