Poketto

加航称聊天机器人是“独立法律实体”,法庭:你的网站你负责

目录

文章主题概念插画

配图:AI 生成的概念示意图,非真实现场、产品截图或研究数据。

TL;DR:2024 年 2 月,加拿大不列颠哥伦比亚省的民事仲裁庭裁定,加拿大航空必须为自家聊天机器人说错的丧亲票价规则负责,向乘客赔付合计 812.02 加元。加航曾辩称机器人要为自己的言论负责,仲裁庭没有接受。这是一个小额索赔庭的裁决,金额不大,也不构成对其他法院有约束力的先例。

这件事发生在 2022 年 11 月,裁决在 2024 年 2 月 14 日作出,不是今天的新闻。它之所以常被翻出来,是因为这大概是第一批把“AI 说错话谁买单”落到白纸黑字上的判决之一。

起因:一句话,和一张全价票

2022 年 11 月,乘客 Jake Moffatt 的祖母去世。他想赶去参加葬礼,就在加航网站上问聊天机器人:丧亲票价怎么申请?

机器人的回答大意是:先按全价买票,之后可以在 90 天内申请部分退款,补上丧亲票价的差额。他照做了,买下温哥华往返多伦多的全价票。

随后他去申请退款,加航的工作人员却告诉他:丧亲票价不能事后申请。网站另一页上的政策确实是这样写的,机器人说错了。

加航的辩护

双方扯皮之后,Moffatt 告到民事仲裁庭。加航承认机器人给出了“有误导性的措辞”,但主张乘客没有按正确流程办理,并称自己不对代理人、雇员或代表(包括聊天机器人)提供的信息负责。报道还提到,加航实际上是在主张机器人是一个对自己行为负责的独立实体。

仲裁庭成员 Christopher Rivers 驳回了这一说法。在他看来,聊天机器人只是加航网站的一部分,网站上的信息,无论是静态页面还是会对话的机器人,都由加航负责。他也追问:为什么顾客要拿网站的另一页去核对机器人说的话?

裁决与数字

仲裁庭认定加航对乘客负有注意义务,却没有尽合理的谨慎确保机器人准确,构成过失性虚假陈述,Moffatt 合理地信赖了它。

赔付明细为:

  • 赔偿 650.88 加元(他实际付的钱与本应得到的丧亲票价之间的差额)
  • 判决前利息 36.14 加元
  • 仲裁费用 125 加元
  • 合计 812.02 加元,14 天内付清

他原本主张的是 880 加元。有报道称,事后加航网站上的聊天机器人已被撤下。

为什么值得记住

这笔钱小得可怜,意义在别处。企业常想把 AI 当作既能干活、又能在出错时背锅的“第三方”。这个裁决至少在这一个小法庭里表明:把话交给机器人去说,就等于你自己说的。

它不是判例,对别的法院没有约束力,只具有参考价值。但它给后来者提了个醒:上线一个对外回答规则的机器人,就要为它的每一句话准备好买单。

来源:

关注这个空间,它的新文章会出现在你的关注动态里。