律师用 ChatGPT 造假证人被罚 5000 美元：谋杀案上诉中 AI 幻觉进了法庭

一个律师用 ChatGPT 写上诉状，里面引用了 AI 编造的证人和假的警察证词。 这是谋杀案。律师被罚了 $5,000。

发生了什么

新墨西哥州最高法院 9月11日公布裁决：律师 Stephen Aarons 在为客户的谋杀罪定罪提起上诉时，提交了一份 AI 生成的法律文书。 文书里包含： - 完全虚构的证人证词 - 关于枪手衣着和外貌的虚假描述 - 编造的警察证词 法官 C. Shannon Bacon 在 8 月听证会上质问 Aarons：你怎么可能不知道 AI 有幻觉风险？ Aarons 没给出让法庭信服的回答。

这不是第一次

律师因为 AI 幻觉被处罚已经不是第一例了。2023 年纽约律师 Steven Schwartz 因为 ChatGPT 编造的假案例引用被罚款。2024 年又有科罗拉多州律师因类似原因受罚。 但这次不一样——这是谋杀案，涉及的是证人证词和警察证词，不是案例引用。虚构证词的严重程度远高于引用错误案例。

问题出在哪

ChatGPT 等大语言模型不会告诉你"我不知道"。它们的默认行为是根据训练数据中的模式"猜"一个看起来合理的回答。猜对了像天才，猜错了像在撒谎——但模型本身没有"对错"概念。 律师把 AI 生成的内容直接提交给法庭，没有做任何事实核查。这是问题的核心：AI 生成的内容不能作为可靠信息源使用，尤其在法律程序中。 $5,000 的罚款不大。真正的影响是：这个律师的职业信誉完了，而且类似案件会让整个行业对 AI 生成内容更加警惕。 对普通人的启示：如果律师、医生、会计这些专业人士用 AI 帮你干活，问一句"这是 AI 生成的吗？您核实了吗？" 这篇文章来自 The Verge（9月11日，作者 Emma Roth），原始来源 Reuters。