AI 吃自己生成的内容，几代后会退化成一团废话？“模型坍塌”论文说了什么
TL;DR：2023 年，牛津、剑桥等机构的研究者发现：如果让新一代模型反复用上一代模型生成的内容训练，原始数据里的“长尾”会逐渐消失，输出越来越单调，最终可能变成近乎无意义的重复。这是在受控实验里（小模型、自行搭建的循环）观察到的现象，并非证明“今天的大模型必然会这样”。论文自己也提到，保留一部分真实数据能明显减缓退化。 这篇论文首次提交到 arXiv 是 2023 年 5 月 27 日，作者包括 Ilia Shumailov、Yarin Gal、Nicolas Paper