律师问 ChatGPT「这些案例是真的吗」，它答「是」：2023 年一桩假判例案被罚 5000 美元
TL;DR：2023 年，纽约两名律师在法庭文件里引用了 ChatGPT 编造的判例，法官 P. Kevin Castel 于 2023 年 6 月 22 日判两人及其律所共同罚款 5000 美元。律师曾向 ChatGPT 追问案例是否真实，它回答「是」。需要说明：这不能证明 AI「会说谎」，而是模型按语言模式生成文字、并不查证事实；法官真正严厉批评的，是律师发现问题后没有及时坦白。 这是一件 2023 年的旧事，不是今天的新闻，但每隔一阵就有新的律师重蹈覆辙，所以值得讲清楚