Poketto

AI 把每张卡片都看对了,为什么还是选错?

目录

放大镜检查单张物品卡,旁边的机械装置把卡片组合入框的复古蚀刻概念插画

AI 概念插画。

从八张物品卡里选三张:总价不能超预算,总重量不能超标,至少有一件指定颜色,同类物品不能太多,选中的物品还必须彼此兼容。

模型能一张张读出价格、重量和兼容关系,合起来做选择时,却频频违反这些条件。这是 Yuyang Dai、Yuxia Wang 和 Zhuohan Xie 于 2026 年 10 月 24 日提交的预印本《All the Facts, Still the Wrong Answer》研究的问题:看清了事实,为什么还做不出符合要求的决定?

先确认它到底有没有看清

作者生成了 1,600 道选卡题,候选数量分别为 2、4、6、8,每组 400 道。每张卡有价格、重量、颜色、类型和兼容名单等属性,程序穷举出唯一符合条件的组合,最后按全部条件是否同时满足来评分。

研究测试了 Qwen2.5-VL、Gemma 3、InternVL3 和 LLaVA-OneVision 共八个模型版本。

最直观的结果来自 Gemma-3-27B:把卡片单独拿出来问,所有受测属性都答对;到了八选三,400 道题只选对了 79 道,即 19.75%。

可能的问题是:一张张看很容易,整张图太挤。于是作者又让模型面对完整卡片网格,只询问其中某一张的属性,再把每张卡都答对的题筛出来。

Qwen2.5-VL-3B 在八张卡的 400 道题里,有 362 道能正确回答全部局部问题。但重新要求它直接选择组合时,这 362 道题的成功率只有 5.80%。同一张图,认出各项信息和完成联合选择之间,仍隔着很大一步。

把图换成文字,也没有自动解决

作者把图片中的真实属性直接写成文字交给模型,绕过识图。八选三时,Gemma-3-27B 的成功率从 19.75% 升到 33.50%,依然有约三分之二的题不满足全部要求。

这里难的事情,是同时守住多条规则。只检查颜色和类别,与同时计算总价、总重、逐对检查兼容关系,工作量不同。把“找到了正确的信息”和“用信息算出了正确的组合”合成一个总分,会掩盖失败发生在哪一步。

让模型抄表,让程序选组合

附录里有一个很实用的实验。作者把流程拆成两步:

  1. 视觉模型把每张卡转写成 JSON,列出各项属性。
  2. 确定性求解程序读取这些记录和题目约束,枚举候选组合,检查预算、重量、类别与兼容关系。

模型负责读图,程序负责联合计算。求解器只有在转写内容能推出唯一可行组合时才给答案。

在这组 400 道八选三的配对实验里:

模型直接选组合抄表后交给程序求解
Qwen2.5-VL-3B5.75%92.25%
Qwen2.5-VL-7B11.75%96.75%
Gemma-3-12B14.00%89.50%
Gemma-3-4B10.25%0.50%

最后一行尤其重要。Gemma-3-4B 经常只列出部分卡片就结束,四、六、八张卡的 1,200 次转写中,有 1,151 次漏了卡片。求解器没有完整输入,自然无法可靠地完成任务。

所以,分工以后还要检查交接:卡片是否齐全,字段能否解析,物品编号是否存在,兼容关系是否一致。最终答案也要再过一遍约束检查。

这给实际系统什么启发?

对于预算搭配、排程、路径选择这类规则明确的问题,可以把流程做成“提取事实 → 检查输入 → 求解 → 验证结果”。这样,识图错误、漏字段和组合计算错误各有明确的检查位置。

这项研究用的是人工生成的卡片和图结构,主要测试 3B 到 32B 的开放模型;上述求解流程也是作者在检查输出格式后做的探索性分析。它展示了一种具体可测的分工:让视觉模型提供结构化信息,让可执行的规则负责约束最后的答案。

每条事实都对,只是起点。最后选出的方案,也必须真的满足所有条件。

论文:All the Facts, Still the Wrong Answer: Integration Gaps in Vision-Language Models · 全文与附录

作者:Yuyang Dai(Florida State University)、Yuxia Wang(INSAIT / Sofia University)、Zhuohan Xie(MBZUAI) · 提交日期:2026-10-24

关注这个空间,它的新文章会出现在你的关注动态里。