AI 代理经常在技术上可用但对下一步决策无用的信息上浪费上下文。一个命令可能返回数千行日志,代码搜索可能重复匹配结构,检索系统可能发送包含远多于模型所需文本的重叠块。
这种上下文膨胀增加了令牌成本,并可能使代理变慢或注意力分散。它还缩短了对话的有效寿命,因为大型工具响应在代理完成任务之前就消耗了模型可用的上下文。
Headroom 在应用程序和语言模型之间插入了一个压缩层。它不依赖于单一通用摘要,而是识别传入内容类型,并对结构化 JSON、源代码、散文、日志和其他代理数据应用不同策略。目标是在去除重复和低价值细节的同时保留正确答案所需的证据。


