批处理 API 节省计算器

对比异步 AI API 工作负载的实时处理和批处理 Token 成本。

批处理 API 计算器批量处理成本实时与批处理 API 成本

批处理 API 节省计算器

估算把异步 Token 工作负载从实时处理转为批处理的成本差异。

实时成本
$3,500
标准处理
批处理成本
$1,775
折扣后加固定开销
每月节省
$1,725
49.3%
批处理混合单价
$2.73/1M
输入输出合计
实时输入成本$1,250
实时输出成本$2,250
批处理开销$25.00
该工作负载使用批处理可节省 $1,725。仅在完成时限和重试行为符合产品要求时使用。

常见问题

将这个计算器用于实际 API 计费和用量规划时的常见问题。

什么时候适合使用批处理 API?

适合可以等待异步完成的任务,例如评测、数据补全、分类、迁移和报告生成。

批处理折扣适用于哪些费用?

因供应商和模型而异。有些同时折扣输入与输出 Token,而工具、存储或多媒体仍按标准费率收费。

批处理价格的主要取舍是什么?

主要取舍是延迟完成而非交互式响应。还应确认完成时限、队列上限、取消规则和失败处理。