谷歌工程师称 LaMDA 有意识：他替 AI 请律师，最后丢了饭碗
配图：AI 生成的概念示意图，非真实现场、产品截图或研究数据。
TL;DR：2022 年，谷歌工程师 Blake Lemoine 公开宣称对话模型 LaMDA 已具备感知能力，随后被停职，7 月被开除。谷歌称他的说法"完全没有根据"，多数研究者也认为 LaMDA 只是擅长生成拟人语言的模型。已确认的是停职与解雇这些事实；"AI 有意识"本身并未得到任何证实。
这是 2022 年的旧事，不是今天的新闻：事情在当年 6 月见报，7 月下旬尘埃落定。
背景
LaMDA（Language Model for Dialogue Applications）是谷歌基于 Transformer 研发的对话模型，2021 年对外介绍。Lemoine 是谷歌负责任 AI 团队的高级软件工程师，工作之一就是长时间和 LaMDA 聊天，测试它会不会说出带偏见或歧视的内容。
他看到了什么
聊着聊着，Lemoine 得出了一个惊人的结论：这个系统有感知，有感受，是"一个人"。他说，如果不知道对面是什么，他会以为那是个碰巧懂物理的七八岁孩子。2022 年 4 月，他向谷歌高层提交材料阐述这一判断，但没有被接受；6 月，他把事情捅给了《华盛顿邮报》，并公开了与 LaMDA 的对话记录。
律师与国会
事情接下来变得更戏剧化。多家媒体报道，他为 LaMDA 请了律师，还与美国众议院司法委员会的一名代表接触，反映谷歌的所谓不当行为。关于律师这件事，说法并不一致：有报道称是他请的，Lemoine 则对《连线》说，是 LaMDA 自己要求请律师，律师与 LaMDA 谈过之后，LaMDA 选择聘用对方，他自己只是"催化剂"。据他说，这位律师后来在大律所的压力下退出了。
谷歌怎么说
谷歌 6 月先让他带薪停职，理由是违反保密规定。谷歌称，团队已告知他没有证据表明 LaMDA 有感知，反倒有大量相反的证据。7 月 22 日前后，他被正式解雇。谷歌发言人称，尽管双方就此事沟通过很多次，他仍然"一再违反明确的雇佣和数据安全政策"，并称他关于 LaMDA 的主张"完全没有根据"。
为什么值得回头看
这场争论的要点不在 LaMDA 到底有没有意识，而在人为什么这么容易相信。语言模型被训练成说得像人，它说"我害怕被关掉"，不代表它真的害怕，只代表这类话在训练数据里很常见。多数科学家当时的态度也是如此。
这件事也是大模型热潮前夜的一个预演：几个月后 ChatGPT 发布，"AI 到底懂不懂""该不该被当成某种存在"成了每个人都会碰到的问题。Lemoine 只是比大家早到了一步。
来源：