谷歌 DeepMind CEO Demis Hassabis 表示，现今的代理式 AI 是通用人工智能（AGI）的演练，使自我改进 AI 成为下一个行业里程碑。
谷歌 DeepMind CEO Demis Hassabis 正推动 AI 讨论迈向一个新里程碑：自我改进 AI。他的观点不是说现有模型已经在递归升级自己，而是代理系统开始加速研究人员和工程师构建下一代模型的工作。对于 NexusAI 用户来说，实际意义是 AI 代理不再仅仅是生产力工具；它们正成为 AI 开发循环的一部分。
AI 行业正从模型发布转向一个更深层次的问题：AI 系统能否帮助改进后续的系统？谷歌 DeepMind CEO Demis Hassabis 将现今的代理时代描述为通用人工智能（AGI）的演练，递归自我改进成为下一个值得关注的里程碑之一。
这并不意味着完全自主的自我改进 AI 已经到来。Hassabis 谨慎地区分了硬递归自我改进和现今已经出现的较软形式：编码代理、研究助理和使用工具的系统，这些系统使人类 AI 团队更高效。
对于 AI 工具用户、创始人和开发者来说，这一区别很重要。最重要的代理工具可能不是那些仅仅回答问题的系统，而是那些帮助团队编写代码、运行实验、分析结果、协调工作流程并压缩从想法到部署时间的系统。
行业正在关注 AI 系统是否能显著加速产生未来 AI 模型的研究、编码和实验。
现今的代理并非自主升级自己，但它们已经帮助人类更快地构建、测试和部署 AI 系统。
随着代理获得工具、记忆和自主性，公司需要权限控制、评估方法、成本透明和人工审查循环。
“自我改进 AI”这个词听起来可能抽象，但核心思想很简单。如果 AI 系统显著加速了 AI 研究人员、软件工程师和基础设施团队的工作，那么模型进展可以更快地复合增长。系统不需要完全重写自身就能改变行业的速度。
这就是代理式 AI 战略重要性的原因。代理可以规划任务、编写代码、检查代码库、运行工具、搜索文档、总结实验结果并帮助协调技术工作。每一项能力都反馈到未来 AI 系统的构建中。
Hassabis 的关键区分是 AI 系统尚未完全自主变得更好。近期的转变是较软的：编码代理和研究助理提高了人类的生产力，进而加速了更好 AI 系统的开发。
这种软循环依然强大。帮助工程师更快交付基础设施的编码代理、快速总结论文的研究助理或加速评估的实验代理，都能提升 AI 进展的节奏，而不涉及完全自主的递归改进。
Hassabis 将代理视为演练很重要，因为代理暴露了聊天机器人隐藏的操作问题。当模型使用工具、浏览、写文件、编辑代码、协调任务并执行多步骤操作时，其可靠性、安全性和治理变得更加重要。
这使得代理时代成为公司、政府和用户的压力测试。在 AGI 到来之前，组织需要学习如何评估代理、分配权限、审查输出、监控成本、处理故障以及决定哪些任务应保持在人类控制下。
NexusAI 用户应根据代理工具对反馈循环的贡献来评估。一个有用的 AI 代理不仅应产生文本，还应帮助团队从研究到实施、从错误到修复、从想法到测试、从实验到决策。
重要的选择标准包括工具集成、编码能力、记忆、上下文处理、权限控制、可审计性、成本透明度、独立于基准的可靠性以及代理是否提升团队的实际运营节奏。
自我改进带来明显的好处：更快的研究、更强的工具、更好的科学发现和更有能力的软件系统。但它也带来治理压力。如果 AI 发展速度加快，安全测试、经济准备和机构决策也需要加速。
实际风险不仅是遥远的奇点场景，还包括企业和政府可能停留在聊天机器人时代的假设中，而行业悄然进入能影响真实工作流程、真实软件和真实组织决策的工具使用代理时代。
自我改进 AI 指的是能够显著加速自身开发过程的系统，既可以通过自主改进直接实现，也可以通过提高 AI 研究人员和工程师的生产力间接实现。
没有。目前行业的转变更适合描述为软性自我改进，即编码代理和研究助理帮助人类团队更快地构建更好的 AI 系统。
因为最有价值的 AI 工具可能是那些改善反馈循环的工具：编码、研究、测试、评估、文档、部署和运营决策。
