平克拒与斯科特·亚历山大公开辩论AI灭绝风险,主张务实安全工程
哈佛心理学家史蒂文·平克在Quillette致斯科特·亚历山大的公开信中称,AI灭绝人类的末日论被夸大;他拒绝公开辩论,称这类活动是“观赏性运动”,并认为生物恐怖主义、网络攻击和失控的AI代理才是值得认真对待的危险。
AI解读:这条新闻的核心不是又一场AI末日论口水战,而是两位有影响力的作者在公开信里亮出了分歧:平克认为AI灭绝人类的恐惧被夸大,亚历山大的主观概率是20%。
平克拒绝公开辩论,把这类活动称为“观赏性运动”。信里真正值得看的是他提出的替代方案:独立监督、责任追究和人类控制。
对做AI安全、政策和产品的人来说,这场争论的实用信息是:末日修辞不解决具体风险,务实的安全工程才是动手的地方。但平克没有给出可执行的细则,亚历山大主张的国际协议也还停留在倡议层面。
普通读者不需要为这封信改变什么。真正相关的是安全研究员、政策制定者和AI公司:如果接受平克的前提,资源应从“阻止AI觉醒”转向生物安全、网络安全和代理失控的工程控制。
哈佛心理学家史蒂文·平克(Steven Pinker)在Quillette发表致斯科特·亚历山大(Scott Alexander)的公开信,认为AI灭绝人类的恐惧被夸大。
平克拒绝了亚历山大提出的公开辩论邀请,称这类活动是“观赏性运动”(spectator sport)。
平克承认自己此前低估了大语言模型的能力,也没有预见到AI公司会如此鲁莽地发布产品——而引领这波发布潮的,恰恰是那些警告AI风险的人。
平克认为值得认真对待的危险是生物恐怖主义、网络攻击和不受约束的AI代理。末日修辞无助于应对这些危险,有效做法是建立在独立监督、责任追究和人类控制之上的务实安全工程。
亚历山大在6月的博客中给出自己的立场:他估计AI导致人类灭绝的概率为20%,希望推动更好的安全研究,并通过国际协议减缓AI发展。