大模型“突然开窍”是真的吗？斯坦福论文：涌现可能只是评测指标挑出来的幻觉
TL;DR：2023 年的一篇论文认为，大模型“规模一大就突然学会某项能力”的涌现现象，很大程度上来自研究者选用的评测指标，而不是模型本身发生了突变。换成连续、平滑的指标，许多“断崖式跃升”就变成了平稳上升。但论文并没有证明大模型不存在任何涌现，它的结论是：已报告的涌现并不稳固，不应默认它是规模带来的根本性质。 这是一篇 2023 年的老论文（arXiv 于 2023 年 4 月 28 日提交），不是最近的新闻，但它至今仍是讨论“大模型会不会突然变聪明”时绕不开的参照。 此前