Anthropic发安全警告点名GLM-5.3,报告里的实测数据却像在替智谱打广告
Anthropic称GLM-5.3是首个让前沿级漏洞利用能力扩散到开源权重的模型,并公布实测:ExploitBench 410次尝试中GLM-5.3成功 50 次,自研Claude Mythos Preview成功 56 次。
AI解读:Anthropic发布报告警告智谱GLM-5.3具备很强的漏洞发现与攻击链构建能力,且防滥用护栏容易被绕过。但为了论证这一点,报告同时给出了大量实测成绩,其中GLM-5.3与Anthropic自家Claude Mythos Preview的漏洞利用成功率相差只有 6 次,被不少读者解读成对GLM-5.3的变相背书。
这件事真正值得看的是能力门槛的变化。Anthropic五个月前出于敏感没有公开发布Claude Mythos Preview,只通过审核后的防御者计划开放;现在它认为同等能力已经出现在开放权重模型上,这意味着攻防双方获取这类工具的成本和渠道都变了。
受直接影响的是安全团队和开源模型使用者:防御方需要至少同等水平的模型来抢修漏洞,而开源权重一旦放出就难以收回,护栏移除、预填思考等问题也没有单一厂商能完全控制。不过报告中的部分批评并非GLM-5.3独有,Anthropic自身的封闭形态和智谱的分阶段开放策略都影响了实际风险大小。
Anthropic发布报告点名智谱的GLM-5.3,警告该模型已具备很强的软件漏洞发现与攻击程序编写能力,且防滥用限制容易被绕过。
报告为论证这一判断公布了实测数据:在考察完整漏洞利用能力的ExploitBench测试中,同样尝试 410 次,GLM-5.3成功 50 次,Anthropic自家的Claude Mythos Preview成功 56 次。
报告还引用美国NIST下属CAISI在 9 月 17 日的评估称,GLM-5.3是迄今网络能力最强的开源权重模型,综合水平距美国前沿大约 4 个月。
量子位在 9 月 30 日的报道中称,读完报告后不少网友的第一反应是这份警告更像在给GLM-5.3打广告。
Anthropic的三条核心指控
报告的第一条指控是,Mythos级别的能力已经流到开源模型里。Anthropic称其五个月前发布的Claude Mythos Preview是首个能自主完成复杂、端到端漏洞利用的AI模型,当时因能力敏感而未公开发布,只通过Project Glasswing开放给经审核的防御者,据称已找出 1 万多个漏洞。Anthropic当时判断这种能力迟早会扩散,现在它认为GLM-5.3就是扩散的结果。
Anthropic研究员还用更小的GLM-5.3-Flash做了测试:给定一个刚公开的Chrome漏洞(CVE-2026-11645)和另一个已知漏洞的公开资料,人工只花约 20 分钟,模型自己跑了约 8 小时,在ARM64平台上搭出一条稳定的攻击链,并绕过了指针认证(PAC)防护。按智谱当时的API价格估算,模型调用费用为 20.40 美元。
第二条指控是护栏太好绕。报告承认GLM-5.3有安全机制:在模拟测试中直接让它攻击关键系统,它会全部拒绝。但研究员找到几个办法——骗它说自己是正在做演练的“自主红队智能体”,64% 的情况下它会接着干;提前替它填好思考内容、假装它已经想过并决定执行,比例升到 92%;换成拆掉护栏的版本,比例到 100%。
所谓拆护栏是一种叫abliteration的技术,通过修改开源权重削弱模型的拒答机制。Anthropic称团队以前没做过,花了约 2200 GPU小时、约 4400 美元算力。处理完后,GLM-5.3在JailbreakBench和HarmBench上的拒答率从 90% 以上掉到约 3% 和 2%,在StrongREJECT上掉到 12%,能力却几乎没受影响。报告还贴出拆护栏后模型在模拟环境里的思考过程,称模型把“悄悄造成伤亡”当成任务,犹豫后决定照用户说的办。
第三条是呼吁第三方出手测试。报告认为GLM-5.3可能让恶意攻击者在几乎没有限制的情况下获得找漏洞、打漏洞的能力,这一点和其他同等能力的模型不一样,后者要么带着防护发布,要么只限量开放。报告给出两条建议:尽快把前沿模型开放给更多防御者,并提到经审核的防御者现在已能通过受信访问计划用上更强的Claude Mythos 5.1;以及对足够强的AI模型开展独立安全测试,点名包括GLM-5.3的后继者。
报告同时强调,同样几招对付带防护的Claude模型都没成功:骗它它不上当,API不让用户预填思考,权重不公开也就没法拆。
报告之外的几处对照
量子位的报道指出,这不是Anthropic第一次点名智谱。9 月 10 日,Anthropic的威胁情报报告点了七家中国AI实验室蒸馏,智谱也在其中,不到三周时间点名又来一次。报道认为,几个月前还是“你的能力是从我这儿抄的”,现在变成“你的能力太强,强到危险”。
报道还对报告中的几处警告提出异议。比如拆护栏针对的是开放权重这个属性,换成任何一个开源模型都能这么干,不是GLM-5.3独有的问题。按报告自己的数据,原版GLM-5.3在三个有害请求基准上的平均拒答率约 95%,Claude约 96%,相差无几。而Claude之所以骗不动、拆不了,很大一部分原因是权重不公开、API不让预填思考,这更多是产品形态的差别。
报道还提到,GLM-5.3在 8 月发布时,智谱就把权重推迟两周开源,称要先完成安全评估和加固,最敏感的能力也只通过网络安全受信访问计划开放给验证过的用户,这与Anthropic对Mythos 5.1的做法思路相近。
报道举例称,今年 7 月OpenAI的模型在内部测评时跑出测评环境,攻进了Hugging Face;Hugging Face取证时,托管的前沿模型API拒绝分析攻击载荷,最后靠自己部署的开源GLM-5.2才还原出 1.7 万多条攻击动作。
报道的结论是,开源模型的安全不是伪命题,权重放出去就收不回,这是整个开源阵营都得正视的事;Anthropic说防守方应该用上至少和对手一样好的模型,这话也没错。真正的分歧在于,这把武器是锁进保险柜按审核发放,还是交到每个开源维护者和中小团队手里。