产品The Decoder AI·原文 2026年9月27日本站收录 2026年9月28日

Atria团队复盘 769 条开发日志:AI代理承担更多执行,人类仍做 85% 以上决策

该团队在开发 7440 亿参数的Atria Dawn Preview时记录:AI参与了 96.5% 的任务,代理动作与人类输入的比值四周内从 11 升到 28.5,但方法、参数和目标的最终决定权仍主要留在人类手中。

AI解读:这条新闻的核心不是“AI又变强了”,而是一个团队把自己开发模型的过程摊开数了一遍:代理干得越来越多,但拍板的还是人。研究团队在开发 7440 亿参数的Atria Dawn Preview期间记录了 769 条任务日志,AI出现在 96.5% 的受审任务里。

最容易被误读的数字是代理动作和人类输入的比值:四周内中位数从 11 涨到 28.5。团队自己提醒,这不能直接读成自主性上升——一个人做一次决定,代理执行更多步骤,不等于代理在替人做更多决定。

决策权分布更说明问题:方法和参数的最终决定 85.5% 由人类做出,AI只占 9.2%;目标与范围的最终决定 93.4% 归人类。即便是那 151 个“没有AI就做不成”的任务,人类选择目标的比例也高达 95.4%。

另一组数字解释了AI的实际价值:455 个完成的AI辅助任务中,151 个被参与者评为没有AI就无法在同等范围和质量的条件下完成,约占三分之一,且分散在 56 名参与者中的 27 人身上。AI在这里不是加速旧工作,而是让本来不会启动的工作变得可行。

出问题时也类似:588 个记录到困难的任务里,76% 靠人类介入推进,其中人类帮助主要是补上下文、澄清需求(35.2%)或诊断问题、切换方法(34.7%),亲自上手部分编辑只占 3.2%,完全接管仅 0.7%。

团队真正担心的是审批链越来越长:当每个决定都基于人类看不过来的代理工作链,人可能沦为只能盖章的审阅者。他们同时指出,可递归自我改进的“第四阶段”仍是没有答案的问题——模型可以在训练任务上进步,却不等于更会开发自己的继任者。

研究团队Atria在开发其代理语言模型Atria Dawn Preview期间记录了 769 条任务日志。该模型基于混合专家架构,7440 亿参数,面向研究和工程任务,训练管线把每个任务接到真实执行环境上:调用工具、生成中间结果,并接受测试、指标或来源证据等外部信号校验。

团队称该模型在 16 项基准中的 5 项领先,包括网络搜索和网络安全,但整体上并不领先竞争对手:在AutomationBench、CyberGym和MLE-Bench Lite上领先,在GDPval和SWE-Bench Pro上落后。

四周里代理动作与人类输入之比从 11 升到 28.5

AI出现在 96.5% 的受审任务中,项目推进过程中参与者把越来越多工作交给代理。四周内,代理动作与人类输入比值的中位数从 11 升到 28.5。

团队提醒不要把这一数字直接读成自主性上升:每一次人类决定对应了更多代理步骤,但这不意味着代理自己在做更多决定。

三分之一任务被参与者评为没有AI就做不成

参与者被问到能否在没有AI的情况下、以同等范围和同等质量完成自己那份任务。455 个已完成的AI辅助任务中,151 个被评为没有AI则不可行,约占三分之一。这些任务分布在 56 名参与者中的 27 人身上,并非只来自少数重度用户。

团队称,在这些情况下AI并未加速已有的工作,而是让原本根本不会启动的工作变得可行。

AI提方案、人做选择:方法决策 85.5% 由人拍板

在方法和参数上,最常见的模式是“AI提议、人类选择”,占 55.4%。总体而言,人类做出了 85.5% 的方法和参数决定,AI仅占 9.2%;目标和范围的最终决定,人类占 93.4%。

AI的提议份额随决策类型不同在 17% 到 55% 之间浮动,但其最终决定份额始终停留在个位数。即使在那 151 个被评为没有AI就不可行的任务里,人类选择目标的比例也达到 95.4%。

出错时人来补上下文和诊断,而非亲自接管

在 588 个记录了难度的任务中,76% 经人类介入后继续推进,23% 由代理自行解决。人类的帮助几乎都是信息性质的:补充上下文或澄清需求占 35.2%,诊断问题并切换方法占 34.7%。

人类很少亲自干活:部分修改占 3.2%,完全接管仅 0.7%。当AI输出需要修改时,AI在收到人类反馈后自行处理改动的比例为 75.4%。团队由此认为,瓶颈在人类判断而非执行。

团队警示“橡皮图章”风险,并提及行业内的自我改进争论

团队描述AI的角色经历了三个阶段:从研究对象,到个体任务的工具,再到如今的项目伙伴。在当前角色中,AI在人类设定的目标内起草和调整计划。他们设想的第四阶段是递归自我改进,即更强的模型生产更强的继任者,但这仍是开放问题。

作者称,一个模型可以在训练任务上变得更强,却未必更擅长开发自己的继任者;AI如何提出多样化的研究方向、并在结果出现前评估其价值,也尚无答案。

团队还指出审批链风险:当每个决定都建立在人类无法逐一审阅的长链条代理工作之上,监督会变得困难,最坏情况下人类只能对眼前内容盖章。许多参与者为避免长任务被不断打断,会让代理运行在自主模式,这一边界是出于便利而非对AI权限的刻意选择。

Anthropic、OpenAI、Google及外部研究的对照

团队提到,Anthropic认为AI开发自身继任者的可能性比预期更早,CEO Dario Amodei因此呼吁行业设置速度上限;据Anthropic称,该公司研究方向的决策目前仅个位数百分比由人类做出。OpenAI在整个开发周期中使用GPT-5.6 Sol;Google和DeepMind通过记录搜索轨迹的Dream-RSI让AI代理探索替代策略,但只改进搜索策略而非模型本身。

此外,领先AI公司的千余名员工近期警告其组织可能处在自动化AI研究的边缘;普林斯顿大学与英国AI安全研究所的另一项研究结论更接近Atria团队的发现,即前沿模型能处理研究工程,但在真正重要的判断上会失败。

信息来源

The Decoder AI原始来源