返回指南
限流阅读约 10 分钟

如何为免费和付费用户设置 API 用量限制

根据成本、容量和滥用假设,为免费、付费和企业套餐设计合理限额。

先明确每个套餐的目的

免费限额应让真实开发者完成有效试用,同时避免成为自动化滥用的低成本目标;付费限额应在可持续利润下支持承诺的工作负载;企业限额还应反映治理与服务支持。

选择数字前先定义新用户必须完成什么才能理解产品。如果一次真实测试需要 200 次请求,50 次免费配额就无法完成试用。

把成本预算转化为配额

估算每次成功请求或任务的平均成本,包括重试和辅助调用。用套餐成本预算除以这个数,再扣除波动缓冲。

免费用量本质上是获客成本。除了每账户配额,还应为整个免费层设置月度总预算。

初始套餐配额 = 套餐用量成本预算 / 每个成功单位的预计成本 ×(1 - 波动缓冲)

叠加多种限制,而不是只依赖一个数字

月配额无法阻止客户在几秒内全部用完。应结合周期配额、RPM、TPM、并发、最大载荷和输出上限。

套餐配额行为吞吐行为
免费月度硬上限低 RPM、低并发、严格风控
入门包含配额并提示升级可用于基础生产
成长更高配额或可选超额更高持续和突发容量
企业合同用量与告警协商或专属容量

让用量耗尽可以预测

在面板中显示用量,并在达到限制前发送通知。错误响应应包含重置时间和升级路径;后台任务可以暂停,而不是持续重试不可能成功的请求。

  • 在多个阈值通知账户管理员。
  • 允许设置低于账户上限的项目和 Key 限额。
  • 测试环境使用独立且较低的限制。
  • 开启付费超额前取得明确同意。

根据真实分布复查限额

上线后比较每个套餐的中位数、高分位和极端用量。平均值可能掩盖少数占用大部分容量的用户。调整前应区分高价值重度用户、程序死循环、Key 泄露和账号滥用。