一篇质疑大模型的论文，让谷歌 AI 伦理负责人离职：“随机鹦鹉”到底说了什么？

配图：AI 生成的概念示意图，非真实现场、产品截图或研究数据。

TL;DR：2020 年 12 月，谷歌 AI 伦理团队联合负责人 Timnit Gebru 与公司关系破裂，起因是她参与合写的论文《随机鹦鹉的危险：语言模型会不会太大了？》。可以确定的是：论文在内部审查中引发争议，她离开了谷歌，随后上千名谷歌员工联名抗议。双方对“是辞职还是被解雇”各执一词，至今没有统一说法。

这是 2020 年的旧事，不是今天的新闻。2020 年 12 月 2 日晚，Gebru 在推特上说自己被谷歌“逼走”，消息迅速传开。那时 ChatGPT 还要两年才会出现，大语言模型对公众来说还很陌生。

论文讲了什么

论文全名是《On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?》，共六位作者，其中四位来自谷歌，华盛顿大学教授 Emily M. Bender 是合著者之一。据《麻省理工科技评论》对论文内容的报道，它提出了四类风险：

1. 环境与经济成本：训练大模型耗电巨大，碳排放不小。
2. 数据太大、没法审查：互联网文本里的偏见和攻击性语言很难被清理，小众语言和文化也更容易被忽略。
3. 研究机会成本：资源都涌向“堆规模”，可能挤占了追求真正理解、或用小而精数据的研究。
4. 意义的错觉：模型输出得很流畅，人们容易误以为它“懂”，也更容易被用来造假或误导。

“随机鹦鹉”这个比喻，说的就是模型只是按概率拼接语言，并不理解自己在说什么。

争议是怎么发生的

谷歌 AI 负责人 Jeff Dean 在内部邮件中说，这篇论文“没有达到发表标准”，并称论文忽略了太多相关研究，团队只给了内部审查一天时间。Gebru 一方则认为，这样的审查与以往惯例不同：谷歌研究员 Nicolas Le Roux 就公开说，自己的投稿过去审的是有没有泄露敏感信息，从来不是文献综述的质量。

至于她如何离开，说法对不上。Dean 的邮件称，Gebru 表示除非满足若干条件否则会辞职，谷歌不愿接受，于是“尊重她的决定”。Gebru 说，她只是提出等休假回来后商定一个最后工作日，却在此之前就被切断了公司邮箱。这两种说法，目前主要来自各自一方，外界无法完全核实。

后续

据当时的报道，抗议联名信有 1400 多名谷歌员工和 1900 多名外部支持者签名，后续的报道里数字还在上涨。Bender 担心此事会对 AI 伦理研究产生“寒蝉效应”。

这篇论文后来正式发表，“随机鹦鹉”也成了行业里常被引用、也常被调侃的说法：支持者拿它提醒大模型的局限，批评者则认为它低估了模型的能力。无论站哪边，它都是大模型热潮前夜，学界与大公司之间的一次公开摩擦。

来源：MIT Technology Review：We read the paper that forced Timnit Gebru out of Google