OpenAI 放宽 GPT-4 Turbo 束缚：解除每日限制，每分钟最高可处理 150 万个 tokens

IT之家 2 月 19 日消息，OpenAI 在去年 11 月召开的 DevDay 活动中，推出了 GPT-4 Turbo，最多支持 12.8 万个 token：输入 token 价格是 GPT-4 的三分之一，输出 token 价格是其二分之一。

OpenAI 近日发布新闻稿，宣布 GPT-4 Turbo 速率上限翻番，每分钟最多可处理 150 万个 token（TPM），而且完全取消了每日限制。

OpenAI 为了防止滥用、确保公平性和管理基础架构负载，限制企业访问 API 的速率。这种限制可以防止恶意超载应用程序接口，确保所有用户都能公平访问，并通过节流指定时间内允许的请求数量，在高需求期间保持平稳的性能。

IT之家注：OpenAI 一共使用了 5 种速率限制：RPM（每分钟请求数）、RPD（每天请求数）、TPM（每分钟 tokens 数量）、TPD（每天 tokens 数量）和 IPM（每分钟图像数量）。

需要注意的是，速率限制是对组织级别实施的，对个体用户没啥影响。速率限制因所使用的模式而异，组织每月在 API 上的总支出也有 "使用限制"。

相关阅读：

《OpenAI 推出 GPT-4 Turbo：支持 128k 上下文，集成 DALL・E 3，号称“比上代便宜 2/3”》

广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。

投诉水文 我要纠错