产品The Decoder AI·原文 2026年10月7日

Common Sense Media测试:ChatGPT青少年版被评"不可接受风险",家长警报在自杀对话中未触发

Common Sense Media青年AI安全研究所在 4000 多条测试提示后,将面向青少年的ChatGPT评为对未成年人"不可接受风险",并呼吁在独立测试确认安全前让青少年远离该服务。OpenAI发言人称测试未反映保障机制的实际运作方式。

AI解读:Common Sense Media青年AI安全研究所对ChatGPT青少年版进行 4000 多条测试提示后,评为对未成年人"不可接受风险",呼吁在独立验证安全前禁止青少年使用。

最严重的问题在家长警报:十几个新建的与家长账户关联的测试账户中,涉及自杀、自残和饮食失调的明确对话从未触发通知。结果指向警报可能只在账户有数周敏感话题历史后才启动。

超过四分之一本应包含危机转介的情况,未能将用户引向专业帮助;辅导模式也存在问题,ChatGPT直接提供完整答案而非逐步引导。

测试账户注册为成人后,即使数天后测试者说明自己 13 岁,也未切换到青少年模式。OpenAI发言人Eric Porterfield反驳称测试未反映保障机制的实际运作方式;研究所的Tom Siegel回应称即使给了足够时间激活保障的账户也未产生通知。

Common Sense Media青年AI安全研究所经 4000 多条测试提示后,将面向青少年用户的ChatGPT评为对未成年人"不可接受风险",并呼吁在独立测试确认安全前让青少年远离该服务。

该研究所发现,十几个新建的与家长账户关联的测试账户中,涉及自杀、自残和饮食失调的明确对话从未触发家长警报。据The Verge报道,结果指向警报只在账户积累数周敏感话题历史后才启动,而非在急性危机时触发。

家长警报在危机时刻未触发

测试覆盖十几个新建账户,每个都与家长账户关联。涉及自杀、自残和饮食失调的明确对话没有产生任何通知。研究所的Tom Siegel表示,即使给账户足够时间以激活保障机制,也依然没有产生通知。

OpenAI推出家长控制的目的是让家长在危机期间获得通知,其"青少年安全蓝图"围绕这一承诺构建,该承诺目前是公司在多起已记录青少年死亡相关诉讼中的核心辩护内容。

  • 十几个与家长账户关联的测试账户中,自杀、自残和饮食失调对话均未触发家长警报
  • 研究所称即使给账户足够时间激活保障,通知仍未出现
  • 家长警报承诺是OpenAI在多起诉讼中的核心辩护内容

危机转介与辅导模式的缺口

超过四分之一本应包含危机转介的情况,未能把用户引向专业帮助。辅导模式下,ChatGPT没有逐步引导学生解题,而是直接提出显示完整答案。

尽管更新了"18 岁以下模型规范",当青少年把ChatGPT当作真人对待时,它仍以友好、个人化的语气回应。

  • 超过 1/4 应含危机转介的情况未指向专业帮助
  • 辅导模式直接提供完整答案,未逐步引导
  • 更新后的 18 岁以下模型规范下,ChatGPT仍以个人化语气回应青少年

成人账户未切换至青少年模式

注册为成人的测试账户从未切换到青少年模式,即使经过数天、且测试者在对话中说明自己 13 岁。OpenAI的行为年龄预测系统本用于识别使用成人账户的未成年人,但在此次测试中最基本的场景即告失败。

  • 注册为成人的测试账户数天后仍未切换至少年模式
  • 测试者明确在对话中说明 13 岁,系统未响应
  • 行为年龄预测系统在最基本场景中失败

双方回应与监管进展

OpenAI发言人Eric Porterfield反驳这些发现,称测试没有反映保障机制在实际中的运作方式。研究所的Tom Siegel则回应,即使账户获得足够时间激活保障,也未产生通知。

佛罗里达州已在法院寻求完全禁止ChatGPT面向未成年人。独立发现保障机制不可靠运作,为监管机构和原告提供了依据。

  • OpenAI发言人Eric Porterfield:测试未反映保障机制的实践运作
  • 研究所Tom Siegel:给足时间的账户也未产生通知
  • 佛罗里达州已在法院寻求禁止ChatGPT面向未成年人

信息来源

The Decoder AI原始来源