Meta推出新AI工具识别“指路”广告，上半年处置3320万条儿童性剥削内容
Meta称2026年上半年在Facebook和Instagram上处置了3320万条儿童性剥削内容，其中超97%由系统在用户举报前发现；新工具包括用于检测“signposting”广告的大语言模型系统、测试自身防护的“红队AI代理”，以及识别被封禁者换号回流的手段。
AI解读：Meta披露的3320万条和印度530万条均为公司自行公布的上半年处置数据，属于其平台治理口径，不是外部独立核验结果。
新工具针对的是一类具体规避手法：广告本身不含非法内容，但把用户引向Meta平台之外的儿童性虐待材料网站，因此Meta称现在同时审查广告指向的目的地，而不只是广告内容。
Meta称已可用目的地信息封堵违规网站、处置背后账号，并加大AI扫描以找出旧系统漏掉的内容；这些能力的效果范围由公司自行描述。
“红队AI代理”用于测试Meta自身安全措施的弱点，寻找恶意者可能绕过的路径，公司称希望借此在滥用手法普及前发现新方式。
Meta同时改进识别被移除账号后换新号回流的人。该公司近年因未成年人安全面临诉讼与立法者批评，8月同意支付最高180亿美元了结29个美国州提起的儿童安全诉讼。
Meta周三宣布，2026年上半年在Facebook和Instagram上对3320万条儿童性剥削内容采取了行动。该公司称，其中超过97%是系统在用户举报之前发现的。
同期在印度，Meta称对530万条儿童性剥削内容采取了行动，超过98%由系统在用户举报前发现。上述数字均来自Meta。
新工具针对“指路”广告
Meta表示，正在推出新的AI工具，用于发现可能被用来暗中把用户引向非法儿童虐待材料的广告和账号。
公司称这类广告外观正常，但涉嫌把用户导向Meta平台之外的非法内容或其他有害活动，Meta将其称为“signposting”（指路）。Meta说，这是恶意者近期为躲避检测而采用的手法之一。
广告本身可能不含非法内容，但可以成为托管儿童性虐待材料网站的入口。因此Meta称，现在不仅看广告内容，也看广告把用户送到哪里。公司可利用这些信息封堵违规网站或其他目的地，并处置背后的账号。
- Meta称已引入新的大语言模型系统来检测“signposting”。
- Meta称正在使用额外的AI扫描，寻找早期系统可能漏掉的儿童性剥削内容。
- Meta称随着对这些网络运作方式的了解增加，将继续加入新的信号。
红队代理与回流账号识别
Meta还提到一项“红队AI代理”工具，用于测试Meta自身的安全措施，寻找恶意者可能用来绕过防护的弱点。公司称，这有助于在某种滥用手法变得更普遍之前发现新方法。
此外，Meta表示正在改进系统，以识别那些在账号被移除后以新账号回到其平台的人。
背景与已公布的儿童安全措施
Meta称，这些新措施出台之际，公司持续因平台上的儿童安全受到压力，面临诉讼和立法者的批评。
Meta在8月达成协议，同意支付最高180亿美元，了结29个美国州提起的儿童安全诉讼，该诉讼涉及未成年人网络保护问题。
Meta称今年已推出多项儿童安全功能，包括Meta AI的家长控制、WhatsApp的青春期前账户，以及当孩子在Instagram搜索自残内容时提醒家长。9月，WhatsApp增加了更多家长控制：可限制青少年使用Channels、控制谁能看到其状态更新、决定谁可以把孩子加入群组，家长还可选择接收某些群组活动的通知。