新墨西哥州律师因AI虚构证词被罚款5000美元
律师Stephen Aarons在谋杀案上诉摘要中使用ChatGPT生成的虚构证人和虚假警方证词，被新墨西哥州最高法院罚款5000美元并裁定藐视法庭。
AI解读：新墨西哥州最高法院对律师Stephen Aarons开出5000美元罚单，并裁定其藐视法庭。原因是他提交的上诉摘要里，证人、警方证词、枪手衣着和外貌描述有多处是AI编造的，他没有核实就交给了法院。
这件事的关键不在于“AI写错了”，而在于律师把ChatGPT当成了可靠的资料库。Aarons在听证会上承认，他以为ChatGPT能生成一份“无懈可击的摘要”。法官C. Shannon Bacon当庭反问：“律师，你看新闻吗？听广播吗？每天头条都是律师依赖AI幻觉出事。”
受影响的首先是正在用AI辅助写法律文书的律师。法院这次明确了：生成式工具的输出不能替代事实核查，引用不存在的证词和判例会被直接认定为违规。对普通客户来说，这意味着你请的律师如果偷懒用AI且不核对，案件材料可能被法官驳回，甚至连累律师本人受罚。
新墨西哥州最高法院在周三提交的一份文件中，对律师Stephen Aarons处以5000美元罚款，并裁定其藐视法庭。法院认定，Aarons在为其当事人谋杀定罪进行上诉时提交的摘要中，包含“完全虚构的证人”提供的虚假证词，以及关于枪手衣着和外貌的“虚假证词”。
法院文件指出，Aarons未能“核实其AI生成摘要中的事实主张和法律依据”。在8月的一次听证会上，Aarons承认使用了ChatGPT，并以为它会生成一份关于审判的“无懈可击的摘要”。
法官当庭质问律师是否看新闻
据路透社报道，法官C. Shannon Bacon在听证会上质问Aarons：“律师，你看新闻吗？你听广播吗？你读世界上正在发生的事情吗？因为律师依赖AI幻觉的问题，每天都是头条新闻。”
类似处罚并非孤例
随着越来越多的律师在工作中使用AI工具，法院发现AI编造——即“幻觉”——引用的案例也在增加。去年，一名法官曾严厉批评两家律师事务所提交的摘要包含“大量虚假、不准确和误导性的法律引用及引文”。MyPillow公司Mike Lindell的律师也因在摘要中使用AI生成的错误引语和虚假AI引用而被罚款。
Aarons在给路透社的一份声明中表示：“我很懊悔，但希望纪律委员会能考虑到这是一个诚实的错误。”