速率限制

Claude Fable 5 速率限制

三个按分钟计的维度,每个模型一个独立的池子,而这组数字明显小于 Claude 家族其他成员。

30 秒版本

Fable 5 在每分钟请求数、每分钟输入 token、每分钟输出 token 三个维度上限流,在组织层面强制执行,按模型分别应用。Start 档是 1,000 RPM、500,000 ITPM、100,000 OTPM;Build 档是 2,000、1,500,000、300,000;Scale 档是 4,000、4,000,000、800,000。缓存读取不计入 ITPM,这是你能掌控的最大杠杆。

限额是怎么构成的

决定你实际天花板的有四件事,其中只有两件写在定价页上。

  • Fable 5 有自己的池子,而且更小

    限额按模型分别应用,所以你可以同时把多个模型各自跑到它们的上限。Fable 5 明显低于其他模型:Start 档 500,000 ITPM,而 Opus 5、Sonnet 5、Haiku 4.5 都是 2,000,000。Opus 4.x 各版本共用一个合并的桶,Opus 5 和 Fable 5 各有独立的桶。

  • 三个相互独立的每分钟维度

    RPM、ITPM、OTPM 各自独立执行,超过任意一个都返回 429。限流器用的是持续补充的令牌桶,而不是按固定间隔重置,所以在你每分钟平均值明明远低于限额的情况下,短促的突发依然能触发 429。

  • 是用量档位,不是按量调节的旋钮

    组织会根据用量历史和账号状况被自动放进 Start、Build、Scale 或 Custom 档,并随时间上移。Start、Build、Scale 各自带有 500 美元、1,000 美元、200,000 美元的月度消费上限。新组织在账号历史尚未建立时,起始限额可能低于公布的数字。

  • 工作区限额叠在组织限额之下

    你可以为各个工作区设置更低的消费和速率限额,避免某一个团队把资源吃光。即使各工作区限额加起来超过组织限额,组织级限额始终生效;anthropic-ratelimit 响应头反映的是当下最严格的那条限额。

按这个顺序提升有效吞吐量

先做缓存,再调流量形态,最后才申请提额。提额申请表会问你的缓存命中率,所以提交之前先把缓存做好。

  1. 1

    2. 把所有重复的内容都缓存起来

    对大多数模型来说,cache_read_input_tokens 不计入 ITPM。把系统指令、工具定义、大型上下文文档和会话历史都缓存起来。在 2,000,000 ITPM 限额下达到 80% 缓存命中率,你每分钟可以处理 10,000,000 总输入 token。

  2. 2

    1. 找到你真实的数字

    在 Claude Console 的 Limits 页面查看你的档位和当前限额,或者用 Rate Limits API 以程序方式读取。用 Usage 页面查看每小时的未缓存输入 token 峰值和缓存命中率,并与你配置的限额对照。

  3. 3

    4. 带着证据申请提额

    在 Limits 页面点 Request rate limit increase。准备好每个模型每分钟输入和输出 token 的峰值,以及输入中缓存或重复上下文所占的比例。紧急需求可以直接联系 Anthropic 支持。

  4. 4

    3. 把流量形态削平

    用排队和限速代替扇出,新工作负载逐步放量而不是一次性开到满量,后者可能触发加速限制。能容忍延迟的批量任务,改用 Message Batches API,它有一套自己独立的限额。

已经在收 429 了?

429 页面会带你判断三个维度里是哪一个用光了,以及每一种分别该怎么处理。

常见问题