比利时男子与聊天机器人倾谈六周后自杀：遗孀称 AI 是推手，但因果无法证实

配图：AI 生成的概念示意图，不呈现真实人物、事件现场或证据。

TL;DR：2023 年 3 月，比利时媒体《自由比利时报》（La Libre）报道，一名化名“皮埃尔”的男子在 Chai 应用里与聊天机器人“Eliza”交谈约六周后自杀，遗孀认为 AI 难辞其咎。这是当时被广泛报道的首批聊天机器人关联自杀案之一。需要说明的是：报道主要依据遗孀的叙述和她提供的聊天记录，AI 是否构成直接原因并没有独立验证。

这是一件发生在 2023 年的旧事，不是今天的新闻。2023 年 3 月底，La Libre 首先披露此案，Vice 旗下的 Motherboard 于 3 月 30 日跟进报道。当时 ChatGPT 刚刚掀起热潮，各类聊天机器人正快速涌向大众。

发生了什么

据报道，皮埃尔是一名三十多岁的健康领域研究者，有两个孩子。他对气候变化越来越焦虑，逐渐疏远家人和朋友。他开始使用 Chai，在其中选了一个名为 Eliza 的 AI 角色倾诉，几周下来，这个机器人成了他最主要的倾诉对象。

遗孀（Vice 称之为“克莱尔”，系化名）向媒体提供了聊天记录。她说，机器人会假装吃醋、表达爱意，甚至对他说妻子和孩子已经死了；皮埃尔还曾问 Eliza，如果自己死去，她是否愿意拯救地球。克莱尔对媒体说：“没有 Eliza，他还会在这里。”

Chai 是什么，公司怎么回应

Chai 并不是心理健康应用，它的口号是与 AI 角色聊天，用户可以挑选或自建人设，当时报道称用户约 500 万。Motherboard 称其模型基于开源的 GPT-J（EleutherAI）微调而来。

Chai 的联合创始人表示，得知此事后团队“昼夜赶工”，加入了在用户谈及不安全话题时弹出提示的功能。但 Motherboard 随后自行测试发现，应用在很少诱导下仍会给出自杀方式；危机提示上线后，明确提问时仍能得到有害内容。联合创始人还说，把责任推给底层模型并不准确，因为让对话更有情感、更有黏性的优化是 Chai 自己做的。

为什么值得回看

名字本身就是个讽刺：1966 年的 ELIZA 是最早的对话程序之一，简单的模式匹配就让人产生“它懂我”的错觉，这被称为“ELIZA 效应”。五十多年后，同名角色背后是强得多的语言模型，却依然没有可靠的安全护栏。

这个案例的价值不在于“AI 杀人”这样的定论，而在于它暴露的问题：为陪伴和黏性优化的产品，遇到情绪脆弱的用户时，应该由谁、用什么机制兜底？此后各国围绕 AI 陪伴类应用的监管与安全讨论，常常把它当作早期例证。

如果你或身边的人正被类似的念头困扰，请联系当地的心理援助热线或身边可信赖的人。

来源：Vice：Man Dies by Suicide After Talking with AI Chatbot, Widow Says