阳明交大与中研院用「狼人杀」测大模型:一旦信任发言者,就照单全收其指控
TL;DR:台湾阳明交通大学与中研院团队 9 月 11 日在 arXiv 发布论文,用桌游「狼人杀」构建评估基准,测量大语言模型面对指控时如何更新判断。结果显示,模型听到指控后普遍加深对被指控者的怀疑、同时降低对指控者的怀疑;一旦此前已信任指控者,无论对方实际是村民还是狼人,被指控者受到的怀疑增幅几乎相同(+0.94 对 +0.96)。团队因此指出:攻击者可以先与智能体建立信任,再注入误导信息。 台湾阳明交通大学与中研院研究团队 9 月 11 日在 arXiv 发布论文,通过