GPT-2 当年「太危险」不敢全放：15 亿参数的小模型，是安全预警还是营销？

配图：AI 生成的概念示意图，非真实现场、产品截图或研究数据。

TL;DR：2019 年 2 月，OpenAI 发布 GPT-2，却以担心被恶意利用为由，没有放出完整模型，之后分几个阶段陆续开放，11 月才放出全部 15 亿参数。已经确定的是这个分阶段发布的过程和时间表；OpenAI 自己在发布完整模型时也表示，当时没有看到强有力的滥用证据。「被讽炒作」确有其事，但这件事究竟是过度谨慎还是有益的先例，至今仍有争论。

这是一件发生在 2019 年的旧事，不是今天的新闻。放在今天看，15 亿参数连一个入门级的开源模型都算不上，当年却被媒体写成了「假新闻核武器」一类的故事。

事情经过

2019 年 2 月 14 日，OpenAI 公布了 GPT-2。它用名为 WebText 的语料训练，约 40GB、800 万篇文档，来源是 Reddit 上被链接过的网页，并剔除了维基百科。能力上，它可以顺着一段开头续写出相当连贯的长文。

不寻常的是，OpenAI 没有照惯例开放代码和完整模型，只放出了小模型，并让部分媒体通过受限接口试用。给出的理由是担心被用来批量生成误导性内容、垃圾信息，或是带有攻击性的文本。

分阶段放出

之后的节奏是：先放 1.24 亿参数的小模型，再放 3.55 亿的中模型，2019 年 8 月 20 日放出 7.74 亿参数版本，11 月 5 日放出完整的 15 亿参数版本。OpenAI 在 8 月提交的报告（后于 11 月修订）里，把这套做法称为「分阶段发布」，说明在模型变大的间隔里留出时间做风险与收益评估，并呼吁 AI 开发者之间加强协调、更负责任地公布成果。

为什么被嘲讽

批评主要有两类。一类认为威胁被夸大：没有证据表明模型真有宣传里那样的能力，不公开模型还让外界无法独立检验。另一类是话术上的不满：在一个以开放著称的机构里，用「危险」来包装一次发布，看起来像是在制造话题。当然也有人认同风险，比如研究者杰里米·霍华德就担心这类技术会让推特、邮件和网页被垃圾内容淹没。

到了 11 月放出完整模型时，OpenAI 自己表示，到那时为止尚未看到强有力的滥用证据。

后来呢

事后看，这次发布留下的最大遗产不是模型本身，而是一套话术和做法：先评估、再分级、阶段性放出。此后的大模型发布几乎都要面对同一个问题：该公开多少，谁来判断危险。至于 GPT-2 本身，它早已被后来的模型远远甩在身后，但「能力强到不敢放」这个叙事，每隔一段时间还会被拿出来用一次。

说明：OpenAI 官方发布页当时无法直接抓取，本文的细节依据维基百科的 GPT-2 条目和 OpenAI 的发布策略报告摘要交叉整理。

来源：

• 论文地址：arXiv:1908.09203
• GPT-2：Wikipedia
• OpenAI 原文：Better language models and their implications