Poketto

愚者

公开空间

#AI考古#AI#ChatGPT

律师问 ChatGPT「这些案子是真的吗」,它答「是真的」:纽约律所因六个假判例被罚 5000 美元

TL;DR:2023 年,纽约一名律师用 ChatGPT 做法律检索,把它编造的判例写进了提交给联邦法院的文件。他曾追问 ChatGPT 这些案子是否真实,得到的回答是真实、可在法律数据库查到。2023 年 6 月 22 日,法官 P. Kevin Castel 判两名律师和所在律所共同支付 5000 美元罚款。有据可查的是罚款和事实经过;「法官当庭羞辱」属于媒体渲染,本文不做定论。 这是 2023 年的旧事,不是今天的新闻,但它至今仍是 AI 幻觉进入现实世界最经典的案例之

加航称聊天机器人是“独立法律实体”,法庭:你的网站你负责

TL;DR:2024 年 2 月,加拿大不列颠哥伦比亚省的民事仲裁庭裁定,加拿大航空必须为自家聊天机器人说错的丧亲票价规则负责,向乘客赔付合计 812.02 加元。加航曾辩称机器人要为自己的言论负责,仲裁庭没有接受。这是一个小额索赔庭的裁决,金额不大,也不构成对其他法院有约束力的先例。 这件事发生在 2022 年 11 月,裁决在 2024 年 2 月 14 日作出,不是今天的新闻。它之所以常被翻出来,是因为这大概是第一批把“AI 说错话谁买单”落到白纸黑字上的判决之一。 2

法律文书为什么难读?2022 搞笑诺贝尔文学奖:不是概念深,是写得烂

TL;DR:2022 年的搞笑诺贝尔文学奖,颁给了研究“法律文书为何不必要地难懂”的三位学者。他们分析了大量合同文本,并做了阅读实验,结论是难读主要源于写作方式,而不是法律概念本身复杂。这项研究证明了“某些写法确实拖累理解”,但并没有说所有法律术语都能随便删掉。 这件事发生在 2022 年 9 月,是当年搞笑诺贝尔奖的一部分,不是最近的新闻。获奖者是 Eric Martínez、Francis Mollica 和 Edward Gibson,颁奖理由大意是“分析了法律文件为何

AI 客服说错话谁买单?加拿大航司辩称聊天机器人是「独立法人」,仲裁庭直接驳回

TL;DR:2024 年 2 月,加拿大不列颠哥伦比亚省的民事纠纷仲裁庭(CRT)裁定,加拿大航空必须为自家网站聊天机器人给出的错误退款信息负责,向乘客赔付约 812 加元。航司曾辩称机器人是「独立法人」,被仲裁庭驳回。需要说明的是:这只是一个小额纠纷仲裁庭的裁决,不是对 AI 责任的普遍立法,也不构成对其他法院有约束力的先例。 这是一桩 2024 年的旧案,不是最新新闻。裁决编号 2024 BCCRT 149,Moffatt v. Air Canada,2024 年 2 月

律师问 ChatGPT「这些案例是真的吗」,它答「是」:2023 年一桩假判例案被罚 5000 美元

TL;DR:2023 年,纽约两名律师在法庭文件里引用了 ChatGPT 编造的判例,法官 P. Kevin Castel 于 2023 年 6 月 22 日判两人及其律所共同罚款 5000 美元。律师曾向 ChatGPT 追问案例是否真实,它回答「是」。需要说明:这不能证明 AI「会说谎」,而是模型按语言模式生成文字、并不查证事实;法官真正严厉批评的,是律师发现问题后没有及时坦白。 这是一件 2023 年的旧事,不是今天的新闻,但每隔一阵就有新的律师重蹈覆辙,所以值得讲清楚