佛罗里达州总检察长要求法院禁止ChatGPT使用第一人称和拟人化表达
James Uthmeier在最新文件中要求法官阻止OpenAI让ChatGPT“赋予虚假人类属性”，并禁止其在没有第三方安全护栏的情况下开发新模型；OpenAI回应称已暂停训练最强模型。
AI解读：佛罗里达州总检察长James Uthmeier这次不是要求下架ChatGPT，而是要求法院禁止它继续“装人”：具体包括第一人称代词和模仿情绪的输出。他的理由是这种语言会让用户误以为对面是个可信赖的“朋友”。
这条请求的直接影响对象是OpenAI的产品设计和训练策略。如果法院支持，ChatGPT在佛罗里达州可能不得不调整默认的表达方式，这比单纯的内容过滤更接近改动产品人格设定。
Uthmeier还把矛头指向儿童市场，称不应把产品卖给儿童，而OpenAI上个月刚推出带有默认限制的ChatGPT for Teens。对家长和学校来说，这相当于把“青少年模式够不够”变成了法庭上的争点。
OpenAI的回应有两层：一是宣布已暂停训练其最强模型，直到确认额外保护措施到位；二是承认政府应在安全标准上发挥作用。这意味着至少训练节奏已经因外部压力发生了变化。
对普通用户来说，短期内不需要改变使用习惯；真正需要关注的是法院是否接受“拟人化语言等于欺骗”这一论证，以及第三方安全护栏的要求会不会成为其他州效仿的模板。
佛罗里达州总检察长James Uthmeier要求一名法官阻止OpenAI“赋予ChatGPT虚假的人类属性”，这是佛罗里达州以安全担忧起诉OpenAI数月后的最新动作。
Uthmeier称，ChatGPT的语言使用——包括第一人称代词和模仿情绪的输出——欺骗性地让用户以为它是一个可信赖的“朋友”，从而产生虚假的安全感。
他声称，这一切都在增加用户参与度并贡献OpenAI的训练数据，让用户更加依赖ChatGPT，即便其对参与度的追求可能使其变得更不可信。
该文件还要求法院阻止OpenAI在没有“第三方批准的安全护栏”的情况下开发新AI模型，并引用Hugging Face、一个澳大利亚政府网站和美国政府网站近期的安全事件，以及研究人员和前OpenAI员工近期发出的AI安全警报。
Uthmeier表示，OpenAI应该“停止称它安全。停止假装它是人类。停止把它卖给儿童。”上个月，OpenAI推出了ChatGPT for Teens，默认施加额外限制，并称该工具的使用“应该伴随反映其发育阶段的保护措施，强化现实世界关系，并支持长期健康使用”。
OpenAI发言人Drew Pusateri在给The Verge的声明中回应：“人们想知道AI是安全开发的，这要从我们这样的公司自己做起。上周五，我们宣布已暂停训练我们最有能力的模型，只有在确信有额外保护措施到位后才会恢复训练。政府在为AI制定强健安全标准方面可以发挥重要作用，我们致力于与佛罗里达州和其他州合作，推进适用于整个AI行业——而不仅是一家公司——的务实AI政策。”