LINUX SB 快照站

在Chatgpt PLUS的Token plan的5.6sol烧token背景下的一些调研以及建议

原帖: linux.sb/topic/9739 · 共 2 楼 · 标题快照 2026-08-12 11:00:09

楼主
发帖 2026-08-08 23:53:39 · 快照 2026-08-12 11:00:09

你只需要前沿模型完成一次修改:探索 AI 编程中的 Prewalk 技术
原文来源:Stencil Blog (https://stencil.so/blog/prewalk)

核心观点:放弃传统的“大模型规划 + 小模型写代码”分工模式。让顶级前沿模型完成代码库的探索并做出第一次有效代码修改后,立即无缝切换给廉价模型接管,能以约一半的成本和近双倍的速度,实现接近顶级模型的执行效果。

一、 为什么“资深架构师 + 初级工程师”模式失效了?
在 AI 辅助编程的团队中,目前最流行的一种架构模式可以概括为:“资深架构师 + 初级工程师”。

它的逻辑听起来非常合理:

先用强大但昂贵的“前沿模型”(Frontier Model,如 Claude Opus 或 GPT-5)阅读代码库、分析问题并写出一份详尽的执行计划。

再把这份计划交给更小、更便宜的“执行模型”(如 Gemini Flash 或 GPT-5-mini),让它去干体力活——动手写代码和修 Bug。

大家普遍认为:高管/架构师的时间贵,所以尽量少用;小兵便宜,多干活。

但 Stencil 的分析与 Benchmark 测试却表明:这种做事的数学逻辑对 AI Agent 根本成立。

原因在于:AI Agent 工作流中最贵的环节不是“写代码”,甚至不是“思考”,而是“读代码(Reading)”。

“在 Agent 的 Token 消耗中,只有 9% 是修改代码,剩下的 91% 全是在读取上下文。这种比例不是某个特定框架的缺陷,而是代码 Agent 的固有特征。”

当我们让昂贵的前沿模型读取了 5 万 Token 的代码(例如 base.py、signing.py 和各种测试文件),探索并排除了错误路径后,它把这一切压缩成了一份 2,000 Token 的文本计划。

随后,便宜的执行模型接到了这份计划——但它无法仅凭自然语言直接修改代码。为了定位具体的改动点,廉价模型必须把之前那些代码文件重新再读一遍。

结果就是:最昂贵的“代码阅读”阶段没有被消除,反而被执行了两次! 一次是用 Opus 的单价付的,第二次是用 Flash 的单价付的。

在实际测试中,让 Opus 负责规划、Flash 负责执行,单项任务成本为 $3.18,耗时 12.7 分钟;而直接让 Opus 独自完成全套任务,成本只需 $2.78,耗时 10.1 分钟(通过率同为 84.6%)。

这个本以为能省钱的“优化方案”,反而让成本高出了 14%。

二、 什么是 Prewalk(前置探索)?
Stencil 提出的替代方案跳过了“生成计划文本”这个中间环节,其核心机制被称为 Prewalk(前置探索):

1. 运行流程:
第一阶段(前沿模型):任务开始时,使用昂贵的前沿模型。系统会向其发送一条隐藏的内部指令:探索代码库、梳理思路、制定内部 To-Do 清单并直接开始工作。

触发切换(Signal):前沿模型阅读代码、确定方向,并在代码库中做出第一个有效的代码修改(First Edit)。

为什么是第一次修改? 这意味着模型已经完成了最难的“消除不确定性”和“定位代码”阶段,不再是在盲目猜测,而是已经掌握了足够的上下文,能够落实到具体代码改动上。

无缝接管(Swap & Prune):在第一个修改落地的瞬间,系统立刻将执行模型替换为廉价模型。同时,系统会将上下文历史中的“请制定规划”那条隐藏指令修剪(Prune)掉。

2. 从廉价模型的视角来看发生了什么?
廉价模型在任务中途被唤醒。当它查看上下文对话时,它看到的是:

一段用“第一人称(它自己的口吻)”记录的对话;

对话显示“自己”已经探索了代码库、梳理了设计思路、写好了 To-Do 列表,并且已经成功改动了一处代码;

提示词中没有任何“请你写个计划”的提示词痕迹。

因此,廉价模型不会去怀疑方案,也不会试图重构逻辑,它只会做出唯一合理的反应:顺着 To-Do 列表上的下一个项目,继续往下写代码。

三、 为什么 Prewalk 能够成立?
Prewalk 让廉价模型继承了前沿模型最贵的资产——已加载的有效上下文 与 已确定的实施方向,而无需重复支付探索成本。

避免模型“走神与胡思乱想”:

小模型在长链条任务中最大的 failure mode(失败模式)通常不是“写不出代码”,而是容易走神——开错文件、做了一半突然重新规划、忘记自己要做什么。一个它们“以为是自己亲手写的”To-Do 列表,是防止其走神最强有力的锚点。

“修剪指令”至关重要:

如果不修剪最初的规划指令,小模型就会看到“规划”这项任务还挂在上下文里,这会诱使它重新审视方案、怀疑列表、重新探索。剪掉指令后,这个方案就变成了“已成事实的决定”,无需再议。

一个意外的副收益:大幅减少中途联网搜索:

在 SWE-bench 等公开基准测试中,很多模型遇到阻碍时倾向于去互联网“搜答案”。但在 Prewalk 模式下,这种行为急剧减少。因为模型认为自己已经读完了代码、做出了决定并完成了一部分工作——一个认为自己任务已经做了一半的模型,是不会中途跑去搜网页的。

四、 测试数据(Benchmarks)
根据 Stencil 发布的基准测试数据:

GPT-5.6(前沿模型) + 小模型执行:

质量:达到全额使用前沿模型 92% ~ 97% 的通过率;

成本:仅为前沿模型总成本的 53% ~ 61%;

速度:速度提升了 1.5 倍至 1.9 倍(速度提升不是误差,因为便宜模型完全省去了最耗时的初次探索阶段)。

这是所有测试配置中速度最快、性价比最高的一组方案。

五、 适用场景与风险提示
黄金法则:
在不可逆的确定性决策上使用昂贵的前沿 Token,在其下游的所有工程落地中使用便宜的 Token。

Prewalk 适用于所有具备 “高昂的定向/探索成本 + 相对机械的下游落地成本” 特征的任务:

审计整个代码库,然后把相同规则应用到 40 个文件中;

研读一份漫长的需求文档,然后产出它所对应的 20 个代码构件;

排查并诊断一次失败原因,然后修复所有同类报错。

风险与 Caveat:
Prewalk 带来高效率的前提,是廉价模型继承了一个它无法质疑的方案。
如果前沿模型从第一步就规划错了,Prewalk 会以极快、极便宜且极自信的方式,带着你朝错误的方向狂奔。

这就是为什么接管动作必须发生在“第一次代码修改”之后,而不是之前——第一次成功修改,是方案经受住代码实测的唯一凭证。

六、 总结与工具支持
Prewalk 证明了在 AI Agent 时代:计划本身并不重要,规划的过程和上下文才是一切。

目前,Prewalk 技术已经在开源 AI Harness 工具 omp(https://omp.sh/)中作为原生命令行 Flag 落地,社区中也出现了对应其他 Agent 框架(如 Pi 等)的开源扩展插件。

对于正在优化 AI 开发成本的团队来说,这种“按阶段路由模型(Route by phase)”而非“按任务难度路由模型(Route by task)”的思路,非常值得借鉴和尝试。

翻译/整理自 Stencil 官方博客

#1
发帖 2026-08-09 00:00:35 · 快照 2026-08-12 11:00:09

希望越多人知道越好,起因是前些天看到一段提示词,大概就是为了节省token,让5.6sol做plan,然后lunamax执行(具体为什么是lunamax而不是medium执行我也不明白,可能是一些雷达站测的野鸡数据,其实本质上对于sol来说都是低智模型),原文内容是以下这样的:

Codex极致省钱大法 原来 Codex 可以开 Luna Max 子代理 GPT-5.6 sol负责决策 GPT-5.6 Luna负责搬砖 ChatGPT Plus套餐用出Pro 20x的效果 去设置-配置-可用推理强度把Max打开 接着把下面这段提示词发给 Sol: ----- 在以下路径创建一个名为 luna_worker 的自定义 Agent: ~/.codex/agents/luna-worker.toml 使用以下配置: model = "gpt-5.6-luna" model_reasoning_effort = "max" 请为这个 Agent 补充清晰的 description 和 instructions。 luna_worker 只负责处理范围明确、边界清晰、可以独立完成的委派任务,不负责修改整体任务目标,也不要自行扩大工作范围。 请保留我现有的其他 Codex 配置,不要覆盖或删除无关内容。 创建完成后: 1. 根据我当前安装的 Codex 版本检查配置格式是否兼容; 2. 展示本次修改产生的 diff; 3. 确认配置有效; 4. 后续需要调用子代理时,优先使用 luna_worker。 ----- 这样Luna Max 就可以作为子代理搬砖省钱了。”

其实本质上来说,是对harness工程不够了解才会有以上内容的宣传,所以大家还是别走这弯路了