在斯坦福HAI与李飞飞的公开对谈中，Jeff Dean介绍了他与Sanjay Ghemawat、Quoc Le、Oriol Vinyals共同创办的公益公司Discovery Loop，称公司已有约20个自动改进循环在运行，目标是把领域专家生产力提高20到50倍；他同时表示，递归自我改进（RSI）受训练、计算、评估等物理过程限制，不可能无限快。
AI解读：Jeff Dean在与李飞飞的对谈中给出递归自我改进的速度边界：自动化能省掉等人回来查看结果的时间，但训练、计算、保存数据、评估结果仍需时间，构建并提升基座模型离不开大量训练和实验，因此循环不会快到无限。他把这与围绕RSI的“无限加速”说法区分开。
Discovery Loop定位为公益公司（Public Benefit Corporation），使命是构建自动解决机器学习、科学与工程重要问题的AI系统。Dean称公司目前聚焦机器学习研究、机器学习工程和硬件设计三个领域，整个实验循环可在数字环境完成；医疗健康是未来方向。
Dean披露公司进展：前三周进行约400场面试，已搭建面向智能体扩展的agent harness（智能体运行框架），支持人与智能体协作，约20个自动改进循环在运行。他给出的目标是将领域专家生产力提高20到50倍，并强调人在其中仍有作用。
对RSI的定义，Dean区分自我改进与递归自我改进：前者是系统针对某个可测量指标改进模型，后者是把同样方法作用于负责提出改进方案的基础系统本身。李飞飞在对话中追问这一定义，称硅谷对RSI的使用较为随意。
Dean还回顾了两处判断偏差：编程能力对模型解决多种问题的重要性超出他当时的预期；他原本期待神经网络架构朝更不规则、更“有机”的形态演进，这一预期未完全实现。他提到蒸馏论文2016年被NeurIPS拒绝、现约有4万次引用。
在斯坦福HAI与李飞飞的对谈中，Jeff Dean介绍了他与Sanjay Ghemawat、Quoc Le、Oriol Vinyals共同创办的新公司Discovery Loop，并回应了递归自我改进（RSI）能否无限加速的问题。他的判断是：自动化可以加快实验循环，但训练、计算、数据保存和结果评估仍需真实时间，RSI不会快到无限。
Dean给出的RSI速度边界
李飞飞在对话中提出，RSI常被描述成一个没有尽头、可以不断加速直到无穷的系统，她请Dean区分哪些属于炒作、哪些属于想象。Dean以实验等待为例：一个人启动实验，凌晨2点结束，要等到早上8点回工位才能查看结果；自动化系统可以及时查看并决定下一步。
但他表示，构建基座模型并提升它仍需要大量训练和实验，计算机要运行计算，结果要检查，数据要保存，还要由另一个模型分析结果再决定下一步，“不可能以无限快的速度完成”。他称自动化系统能提高改进速度，但不会快到无限。
Dean还把自我改进与递归自我改进分开：自我改进是系统针对某个可测量的指标改进模型；递归自我改进是把同样的方法作用于负责提出下一步实验方案的基础系统本身。李飞飞在对话中追问这一定义，并表示硅谷对RSI一词的使用让她作为科学家感到不适。
Discovery Loop的定位与当前进展
Dean称，Discovery Loop的使命是构建自动解决机器学习、科学与工程重要问题的AI系统，公司设立为公益公司（Public Benefit Corporation），公共使命是开发应对重要社会问题的技术并让更多人受益。
他披露的进展包括：前三周进行了约400场面试，大多在University Avenue的Cafe Venetia；公司已搭建自己的agent harness（智能体运行框架），支持人和智能体共同工作，例如两人一起与模型和智能体交流、在方案交给智能体前提出设计意见；基础设施从设计之初就面向扩展到数万乃至数十万个智能体执行任务。
Dean称目前约有20个自动改进循环在运行，团队能看到它们在运行和改进。公司目标是让领域专家的生产力提高20到50倍，他同时表示人在其中仍有作用。
在适用范围上，Dean称公司最初聚焦三个领域：机器学习研究、机器学习工程和硬件设计，因为这些方向的整个实验循环可以在数字环境中完成。医疗健康是他长期感兴趣的方向，但“将来会做，不是现在”。对于涉及物理实验的问题，他表示提速更困难，公司也有一些混合方法。
Dean回顾的两处判断偏差与数学观点
李飞飞请Dean回顾Transformer论文发布以来哪些预测对了、哪些错了。Dean提到，Transformer以注意力机制保存并访问此前状态，比早期逐步更新小向量并遗忘状态的方法更高效；他与Geoffrey Hinton、Oriol Vinyals合著的蒸馏论文2016年被NeurIPS拒绝，评语称不太可能产生什么影响，该论文现约有4万次引用。
他承认自己有两处判断偏差：一是没有充分预见编程能力会成为模型解决许多不同问题的关键能力，在Gemini项目中编程虽是关注方向之一，但并非最主要关注点；二是他原本期待神经网络架构朝更奇特、更不规则、更“有机”的形态演进，例如形成柱状结构或少量大规模远距离交叉连接，这一预期没有完全实现。
谈到AI做数学，Dean认可机器生成证明的价值，但更看重人类能否从中理解并提炼出可继续使用的方法。他以长达500页的Lean代码式证明为例，称机器可以检查，但人们还不太理解如何以优雅、简洁的方式得到结果；一个优雅的解法常会带来可用于其他问题的好方法。
被问及Transformer论文的日期，Dean答出2017年6月12日发布到arXiv，李飞飞给了他满分。