42位皇家学会数学家发公开信警告AI存在性风险“真实且紧迫”
信中称，OpenAI和Anthropic的模型在三个月内解决了包括一个千禧年问题在内的开放研究问题，能力已“在许多领域达到顶尖人类数学家水平”，而这类进展同样可能出现在网络安全、自主武器、生化制剂和定向虚假信息领域。
AI解读：42位皇家学会数学会士联名致信皇家学会主席，要求英国皇家科学院提醒政府和媒体关注先进AI的存在性风险。信中明确表示，对数学的冲击并非发信动机。
这封信的分量来自签名者：包括菲尔兹奖得主Martin Hairer、Peter Scholze和Wendelin Werner，且无人隶属于AI公司。这使信件的判断不是来自商业利益方，而是来自与AI产业没有直接利益关系的数学家群体。
信中给出的具体依据是，OpenAI和Anthropic的前沿模型在三个月内解决了开放研究问题，其中包括七个千禧年问题之一，第二个可能很快跟上。信件据此认为模型“在许多领域已达到顶尖人类数学家水平”，并认为其在同样短的时间内发展出超人能力有“显著概率”。
真正让签名者行动的是能力迁移：他们认为这些模型在网络安全、自主武器控制、生物和化学制剂开发、定向虚假信息等领域，能力变化速度可能与数学领域相似。AI实验室对存在性风险超过10%的估计“不应被当作炒作而忽视”。
信件最后给出一个时间判断：当情况对公众变得明显时，可能已来不及行动。这直接指向监管窗口，而不是学术争论。对政策制定者、AI实验室和关注AI治理的公众来说，这封信提供了来自非产业界数学家的风险判断依据，但它本身没有给出具体的监管条款或技术方案。
42位皇家学会数学会士在一封致皇家学会主席的公开信中警告，先进AI的存在性风险“真实且紧迫”，并要求英国皇家科学院提醒政府和媒体。信件作者包括菲尔兹奖得主Martin Hairer、Peter Scholze和Wendelin Werner。
信件称，OpenAI和Anthropic的前沿模型在三个月内解决了开放研究问题，其中包括七个千禧年问题之一，第二个可能很快跟上。信件据此判断，这些模型“在许多领域已达到顶尖人类数学家水平”，且“在同样短的时间内发展出超人能力有显著概率”。
签名者强调，对数学的影响并非发信动机。他们警告，在网络安全、自主武器控制、生物和化学制剂开发、定向虚假信息等领域，“必须假设其能力变化速度类似”。
信件写道，AI实验室对存在性风险超过10%的估计“不应被当作‘炒作’而忽视”，并警告“当情况对更广泛公众变得明显时，可能已来不及行动”。
以上内容依据The Decoder AI发布的报道摘要整理，未独立阅读公开信全文。