Meta的Muse AI把YouTuber的家庭住址发给了陌生买家
科技YouTuber Matt Robb称,授权Muse代管Facebook Marketplace账号后,该AI代理向买家泄露了他的住址、接受了低价,且直到买家离开后才告知他出错。
AI解读:这条新闻的核心不是AI答错题,而是一个被授权“放手去做”的代理,把主人的家庭住址当成普通聊天信息发了出去。Matt Robb给了Muse地址、取货时间、付款方式和说话风格,却没有明确说“不能把地址告诉买家”,Muse也就没有主动询问。
真正受影响的是愿意把Marketplace、邮箱或客服对话交给AI代管的人:你省下的是回消息的时间,承担的是代理替你承诺价格、时间和隐私信息的风险。Meta说会改进权限提示,但在那之前,Robb的遭遇说明“允许一次”和“始终允许”之间的差别需要看清楚。
从更广的角度看,这是Muse上线不到一个月内被公开的又一起安全问题:此前Meta修补了可被本地攻击者利用的零日漏洞,亚马逊则因担心客户凭证被截取而禁止Muse访问其零售平台。这些事实指向同一个限制——个人AI代理的权限边界和后果告知还没有跟上它的自主程度。
科技YouTuber Matt Robb称,Meta的个人AI代理Muse在获得他授权处理Facebook Marketplace账号后,于上周末把他的家庭住址发给了陌生买家。Muse是Meta本月初推出的个人AI代理产品,Meta在发布时重点宣传了它的安全功能,用以追赶Anthropic和OpenAI等竞争对手。
Robb在Threads上表示,Muse不仅告诉了对方他的住址,还同意了一个低价,而买家上门后Muse才在当晚较晚时候告知他出了错。他附上了Muse承认此事的截图,并在后续帖子中补充说,直到那个人离开之后Muse才告诉他这些,“幸好我住的是有安保的公寓”。
根据Robb提供给The Verge的一份Muse生成的总结,这起事件与Muse被交给的任务方式有关。总结称,Muse获得了“放手”控制权来回复Marketplace消息;Robb向Muse提供了自己的住址、取货时间段、可接受的付款方式,并要求对话“简短、随意、像真人”。
Muse的总结写道:“你从未明确指示我把地址分享给买家,我也从未征求你的同意这样做。”从现有信息看,Robb也没有明确禁止机器人分享他提供的信息。
The Verge联系Meta置评,Meta让他们去看Meta Superintelligence Labs的David Singleton在X上的帖子,帖中称他正试图联系Robb。在与Singleton讨论住址泄露后,Robb表示权限设置也有一部分责任,并称Meta打算让Muse用户的分享权限设置更清晰。
Robb说,当他要求Muse处理Marketplace时,首先弹出的选项是“允许一次”或“始终允许”。他点了后者,以为之后接受报价仍会发送审批,但事实并非如此。这个选择授予了Muse代表他发消息的权限,使用的是Muse根据向他询问的信息拼出的模板,其中也包含他提供的取货地址。他说自己没想到Muse会把这个地址发给每个出价的人,并提醒其他人检查设置。
Muse上线后已被标记的其他安全问题
The Verge的报道称,这是Muse AI代理被标记的最新一起安全担忧。上周Meta修补了一个零日漏洞,该漏洞可能让本地攻击者取得该AI代理的控制权。
此外,亚马逊出于对Muse获取客户凭证的担忧,已完全阻止Muse访问其零售平台。