蒸馏到底是不是偷?从 Hinton 的经典论文到 DeepSeek 的口水战
TL;DR:知识蒸馏是 2015 年 Hinton 等人在论文里系统提出的模型压缩方法,本身是正当的学术技术。2025 年 1 月,OpenAI 称 DeepSeek 可能用其模型输出训练了自家模型,指控的是违反服务条款,而不是“蒸馏这项技术有问题”。截至目前,公开信息里没有看到法院认定的结论;争议的核心是“用谁的输出、条款允不允许”,而不是蒸馏本身。 时间说明:这不是新闻。论文发表于 2015 年 3 月,风波发生在 2025 年 1 月前后,OpenAI 后来又在 202