资料多一倍,AI 就觉得它更靠谱?
AI 概念插画。
两群动物要各派一位队友。你拿到的材料是:
- A 群有 18 条正面行为、8 条负面行为。
- B 群有 9 条正面行为、4 条负面行为。
A 的好事多一倍,坏事也多一倍。按正负比例,两组完全相同。但如果把这些材料写成一长串故事,AI 会不会把“我读到的好事更多”当成“这群动物更好”?
2026 年 10 月 6 日公开的研究,把这道题交给九个语言模型和人类参与者。作者在每项任务招募 100 人,每个模型也独立采样 100 次,再剔除无效回答。动物组队题里,人类选择材料较少一组的比例约为 46%,九模型平均只有 15%;GPT-4o 为 5%,Qwen2.5-14B 为 32%。论文全文
多讲几遍,就像多了一分胜算
这个实验好玩的地方,在于每条材料都可以读懂,问题出在把材料拼成判断的那一步。
作者又做了几组对照。两组材料数量拉齐后,四个模型在两类选择题中的八个结果,有六个回到 40%—60% 的区间。反过来,让材料更多的一组拥有更低的正面比例,八个结果里仍有七个显著偏向它。
模型也并非完全不会看比例:材料量相近、正面比例不同时,多数设置会偏向比例较高的一组。更像是信息量不平衡时,整体印象抢走了比例计算的位置。
一句“仔细想想”还不够具体
论文尝试让模型逐步思考,也尝试直接规定操作:先把每条材料分类,计算正面占比,再据此选择。后者在动物组队题里,把 DeepSeek-R1-Distill-Llama-8B 选择材料较少一组的比例从 28% 拉到 50%;Llama-8B-IT 则只从 17% 升到 25%。明确计算步骤能帮助部分模型,效果并不整齐。
这里还有个值得注意的实验条件:原题要求根据“总体印象”二选一,而补充提示明确要求按比例判断。因此,结果既涉及模型如何整合信息,也受任务措辞影响。九种模型的受控文字任务,不能直接换算成所有现实决策的错误率;现实材料的重要性也未必条条等重。
对做资料检索的人,我会从中带走一个很实际的问题:某个对象看起来证据更充分,是因为事实更强,还是因为它恰好拥有更多报道? 让 Agent 总结之前,先数一数每边拿到了多少材料,有时比再加一句“请深入分析”更有用。
原文:Illusory Pattern Perception Drives Spurious Inference in Large Language Models
作者:Peihua Mai、Zhuoyan Shao、Xinbao Qiao、Meng Zhang、Xinyue Zhou、Yan Pang
日期与状态:2026-10-06,arXiv v1;摘要页注明已被 NeurIPS 2026 接收。
阅读依据:论文全文及附录,本文聚焦其中的信息量与比例实验;末段为检索工作流的应用思考。