> ## Documentation Index
> Fetch the complete documentation index at: https://docs.hostlinku.com/llms.txt
> Use this file to discover all available pages before exploring further.

# 速率限制

> Hostlinku请求的限制、发送的头部以及如何进行退避。

网关的主要限制是，针对端点 `/v1/*`，**每个 API 密钥每分钟最多 600 次请求**。同一密钥下所有模型的请求将在 60 秒的计时窗口内合并计算。

| 限额 | 配额 | 覆盖范围 |
| - | - | - |
| RPM网关 | **600 次请求/分钟** | 按 API 密钥，所有模型 |
| RPD | 无限制 | 受余额和额度限制 |
| TPM | 无限制 | `max_tokens` 必须始终≤模型的输出上限 |
| 端点 `/api/*` | **120 次请求/分钟** | 按IP地址 |
| 身份验证端点 | **30次试验 / 15分钟** | 按IP地址 |

当超过限制时，网关将返回 **HTTP 429** 状态码，并附带以下信息：

* `Retry-After`：建议的等待时间（单位：秒）。
* `RateLimit-Limit`、`RateLimit-Remaining`、`RateLimit-Reset`：配额和剩余窗口。

请求 429 **不会**进行预订或扣除余额。

## 建议的后退距离

1. 读取`Retry-After`；如果存在，则等待该值所对应的时间。
2. 如果没有，则从1秒开始，每次试验将时间翻倍（1、2、4、8秒），并加入抖动。
3. 限制尝试次数，例如5次。
4. 对于高负载情况，应让请求在应用程序端排队，而不是发送突发请求。

需要更高的限额吗？

请通过电子邮件将账户信息和预计流量发送至 [halo@hostlinku.com](mailto:halo@hostlinku.com)。使用详情请参见 [使用情况与限额](https://docs.hostlinku.com/zh/usage-and-limits.md)。


This documentation is built and hosted on [Mintlify](https://mintlify.com), a developer documentation platform.