多年来,效率意味着更好的提示词或更大、更强的模型。SoL-Pi 将重点转向模型周围的支架——规划任务、收集观察、调用工具、评估输出和重新提示的框架。其核心理念是自动化:递归自动研究循环生成对框架的差异(例如观察过滤器、规划深度、日志策略),然后进行受控试验以保留优胜者。结果是一系列小幅改进的持续积累,带来实质性节省。在编码代理中,这表现为更少的回合和更少的上下文浪费,带来实时时间加速和成本降低——无需重新训练或更换模型。
为什么这有效?大多数代理堆栈在可避免的方面消耗令牌:重复的系统提示、冗长的工具模式、重放的文件差异和泄露到观察中的调试日志。SoL-Pi 通过结构化探测和消融测试寻找这些模式,然后提出替代方案——增量提示替代全上下文重放、日志采样和编辑、对简单情况的提前退出检查、规划和搜索的自适应深度,以及工具输入输出的压缩。这些优化减少了令牌量和步骤数,降低延迟同时保持成功率稳定。实际上,框架成为你可以每小时迭代的优化层,而非季度更新。
对工程和产品团队来说,含义是操作层面:将令牌预算、步骤预算和框架策略视为一流的服务级别目标(SLO)。添加每步令牌计数器、观察大小分布和工具调用往返次数;创建金丝雀任务和影子评估;并通过 pass@k、回归风险和人工覆盖的安全门控控制发布。财务收益显而易见——每个工单、PR 或合并变更的单位成本降低——但可靠性也提升,因为步骤减少意味着漂移途径减少。关键在于找到能跨仓库和任务类型泛化的优化,而非过拟合基准或单一模型的特性。
SoL-Pi 还重新定义了供应商策略。模型之外的优化层能跨供应商和版本通用,延长当前模型的使用寿命,并为基于更清晰 ROI 评估升级争取时间。它与企业约束——PII 清理、策略编辑和可复现追踪——完美契合,因为许多收益来自于决定不发送什么。预计这一模式将普及:代理与工具之间的框架级编译器、模式最小化器和观察规划器,将收紧反馈循环,让每个令牌都物有所值。


