文章封面

解决最近codex降智流口水问题

作者:解决最近codex降智流口水问题

安装方法: 一行命令即可安装 ``` uvx --from git+https://github.com/ZhenHuangLab/CodexCont codexcont ``` 或者把这个仓库 ZhenHuangLab/CodexCont 丢给agent让他给你安装(注意阅读免责声明) 已经使用一周了,非常靠谱。 思路来自于:在使用糖果问题测试codex中gpt5.5智商的时候,错误答案往往和reasoning token等于512或者是1034的出现强相关 经过l站的佬排查之后,怀疑是因为模型推理是使用512token进行分页推理,第一页是<|start|>assistant,2token,第二页开始每一页都是|start|>assistant<|channel|>analysis<|message|>{512 tokens}<|end|>,也就是512+6=518token;至于是否开启下一页思考,由另一个独立机制决定(可能是一个独立的llm?) 所以当我们看到: n=1: 516 = 516 + 518*0 n=2: 516 + 518 = 1034 n=3: 516 + 518*2 = 1552 ... 类似这些reasoning token的时候,我们就知道是思考被强行截断了,根本没有开启下一个思考页 这种分页思考机制,很多时候能够节省思考成本,但是很多时候也会导致模型的思考被强行截断,类似于我要写三四页推导过程,但还没写完推导、草稿纸就被拿走了只剩一张 解决方法就是起一个本地服务,监测reasoning token,如果符合518*n-2,就在commentary channel 中注入一个continue thinking的消息,提醒模型还可以继续思考 这个解决方案一开始在neteroster/CodexCont提出,当时我fork了该仓库,并且在后续使用过程中不断迭代更新,目前除了http已经支持了ws协议(多轮缓存),并且支持proxy配置,以及无感接入(保留所有chat历史等)。另外配置了一个小的cli #codex #GPT #ai #ai工具 #vibecoding

相关阅读

← 返回首页