### 现象 Codex 的旧会话持续提示 server is busy,最终报 `exceeded retry limit, last status: 429 Too Many Requests`;新建会话正常。两者均使用 `gpt-6.1-sol high`,旧会话执行 `/compact` 也无法恢复。 ### 排查线索 - 旧会话最后一次成功请求约有 45.4 万输入 token,大部分命中缓存。 - 失败响应带 `x-thinkwatch-error: rate_limited`、`retry-after-ms: 5000`,响应体长度为 151 字节。 - 对照 Lite 锁定的 Core `v0.89.1`,`resources::memory_busy()` 生成的响应长度和重试间隔与之吻合。 - 正文按三倍大小占用共享预算,不足时立即返回 429。大请求可能持续被拒,小请求仍可进入;压缩请求也需要先上传旧上下文,因此可能同样失败。拒绝发生在路由和请求记录之前。 ### 期望 核查是否存在大请求长期无法获得正文预算的情况,并为预算不足的拒绝提供明确日志,方便与上游限流区分。 目前尚未取得运行中 Core 的版本、预算占用及失败响应正文,以上原因仍待确认。
Activity
fix(gateway): prevent request body budget starvation (#407)
fylorn commentedon Nov 17, 2026
已在 PR #407 修复,并随 Core 0.98.1 正式发布。
调研确认 Core 的共享正文预算准入可以出现大请求饥饿:其他正文占着预算时,大请求立即返回 429,而后来的小请求仍能进入,导致大请求多次重试仍失败。隔离实验不接 agent、不访问上游,也能复现相同的 151 字节错误正文与 5000 ms 重试提示。
现在请求会按顺序等待预算,后来的小请求不能越过已等待的大请求;未知长度和压缩正文的增长也做了协调,避免多个半读请求互相等待。每次准入或预算等待最多 30 秒,持续占用仍返回可重试的 429,并记录预算占用。取消、闲置上传和解压完成后都会归还相应预算。已通过 4510 项测试、87 项 smoke,以及跨平台 CI 和正式发布校验。
本次修复的是已复现的 Core 准入机制问题,没有证据据此认定 agent 异常。由于没有现场原始错误正文、运行版本和预算数据,仍不能确认当时具体是谁占用了预算或存在泄漏。
请使用 Core 0.98.1;Lite 也正在接入此版本准备发布。先按已完成的修复关闭此 issue。如果升级后仍能复现,可以重新开启,并附上脱敏后的失败响应正文、运行中的 Core 版本及相关预算日志,继续定位现场原因。