部分Anthropic元老被曝在偏远地区买地,为"AI失控"留后路
《华尔街日报》报道称,Anthropic一些最早期的员工正考虑在美国偏远地区购置土地,作为AI失控时的避险去处,报道同时梳理了公司与有效利他主义及"末日论"圈层的深层联系。
AI解读:《华尔街日报》报道了一个颇为具体的现象:Anthropic部分资历最深的员工正在认真考虑在美国偏远地区买地,万一AI失控,他们能有个地方撤。消息来自一些最早期的员工向业内同行透露的说法,The Decoder转述了这则报道。
这件事之所以不算突兀,是因为报道指出Anthropic和OpenAI的最早期雇员与有效利他主义(EA)亚文化联系紧密。其中一批人来自湾区一个被称为"doomer"的圈子,这个圈子多年来一直在推演世界末日式的场景。Eliezer Yudkowsky在2000年代中期就开始警告不受控的AI,被视为这一亚文化的思想教父。
值得注意的是,在这群人把AI列为头号威胁之前,他们关心的是小行星撞击、超级火山之类的灾难性风险。早期公司聚餐上就有人讨论过类似曼哈顿计划的情节:被要求搬到沙漠里,在电磁屏蔽的政府设施中继续造AI。对普通读者来说,这条新闻的实际影响有限,但它提供了一个观察AI核心圈层心理状态的窗口。
《华尔街日报》报道称,Anthropic一些资历最深的员工正在做具体的应急打算,以应对AI失控的可能性。知情人士向The Decoder转述的内容显示,过去几周里,"一些最早期的员工"告诉一位业内同行,他们正考虑在美国偏远地区购置土地,以便"如果AI失控"时可以搬过去。
报道追溯了Anthropic和OpenAI最早一批雇员与有效利他主义(Effective Altruism,EA)亚文化之间的紧密联系。其中一些人来自湾区一个被称为"doomer"的圈子,这些人多年来一直在推演世界末日式的场景。
早期聚餐上就讨论过"搬进沙漠里的屏蔽设施"
报道援引前员工的回忆称,在Anthropic成立初期的公司聚餐上,人们就讨论过一种类似曼哈顿计划的情节:他们可能被要求搬到沙漠里,在一个电磁屏蔽的政府设施内继续构建AI。
在AI成为这群人的头号威胁之前,他们的关注点是小行星撞击、超级火山等灾难性风险。Eliezer Yudkowsky在2000年代中期就开始警告不受控AI的风险,报道称他因此成为这一亚文化的思想教父。