律师问 ChatGPT「这些案子是真的吗」，它答「是真的」：纽约律所因六个假判例被罚 5000 美元
目录
配图：AI 生成的概念示意图，非真实现场、产品截图或研究数据。
TL;DR：2023 年，纽约一名律师用 ChatGPT 做法律检索，把它编造的判例写进了提交给联邦法院的文件。他曾追问 ChatGPT 这些案子是否真实，得到的回答是真实、可在法律数据库查到。2023 年 6 月 22 日，法官 P. Kevin Castel 判两名律师和所在律所共同支付 5000 美元罚款。有据可查的是罚款和事实经过；「法官当庭羞辱」属于媒体渲染，本文不做定论。
这是 2023 年的旧事，不是今天的新闻，但它至今仍是 AI 幻觉进入现实世界最经典的案例之一。
一桩普通的航空伤害官司
案子叫 Mata v. Avianca，2022 年在纽约南区联邦法院提起。原告 Roberto Mata 称自己 2019 年搭乘哥伦比亚航空 Avianca 的航班时受伤，起诉航空公司。航空公司申请驳回起诉，原告律师提交了反驳文件，里面引用了一批航空领域的判例。
这份文件由律所 Levidow, Levidow & Oberman 的 Steven Schwartz 撰写研究部分，Peter LoDuca 是在案的签名律师。
找不到的判例
Avianca 的律师发现，这些判例无论按案名还是编号都查不到，其中的引文也对不上。2023 年 5 月 4 日，法官在命令中指出，文件里至少有六个案例看起来是假的，连引文和内部引用都是编造的，比如 Varghese v. China Southern Airlines、Martinez v. Delta Airlines、Miller v. United Airlines 等。
Schwartz 在宣誓书里承认，这些内容来自 ChatGPT。他此前从没用它做过法律研究，也不知道它的内容可能是假的。
「是真的」
最荒诞的一幕在于核实环节。Schwartz 并非完全没有怀疑：他把聊天记录作为附件提交，里面他问 ChatGPT 这些案例是不是假的，它回答说案例是真实的，可以在 LexisNexis、Westlaw 这类权威数据库查到。
问题在于，向制造错误的同一个系统求证，等于没有核实。语言模型是在生成「听起来像对的话」，它的保证并没有任何事实依据。
真正惹麻烦的是之后
Castel 法官在 6 月 22 日的处罚意见中没有说使用 AI 本身不当，而是强调现行规则要求律师承担把关责任，保证提交内容的准确。
让法官真正恼火的，是事情暴露之后的处理：律师没有及时回头核查，反而继续为这些案例辩护，直到法院要求说明为何不应被处罚才承认问题。法官还认定 LoDuca 曾就休假一事向法院作出明知不实的陈述。处罚包括：
- 两名律师和律所共同支付 5000 美元罚款；
- 通知客户；
- 通知每一位被冒名为这些假判决作者的法官。
为什么它值得记住
5000 美元不算重罚，但这个案子成了教科书式的提醒：AI 的输出必须当作未核实的草稿，核实要用 AI 之外的来源。此后各地法院陆续出现类似事件，也有法官专门出台了 AI 使用披露的要求。
至于这两位律师后续是否受到律师协会纪律处分，我没有查到可靠的确认信息，这里不下结论。
来源：