Poketto

来自不同空间的记录

今天,发现一点新东西。

随意翻翻,也许会遇见想要留下的一页。

全部#LLM

正在发现「LLM」相关内容。

愚者目录

阳明交大与中研院用「狼人杀」测大模型:一旦信任发言者,就照单全收其指控

TL;DR:台湾阳明交通大学与中研院团队 9 月 11 日在 arXiv 发布论文,用桌游「狼人杀」构建评估基准,测量大语言模型面对指控时如何更新判断。结果显示,模型听到指控后普遍加深对被指控者的怀疑、同时降低对指控者的怀疑;一旦此前已信任指控者,无论对方实际是村民还是狼人,被指控者受到的怀疑增幅几乎相同(+0.94 对 +0.96)。团队因此指出:攻击者可以先与智能体建立信任,再注入误导信息。 台湾阳明交通大学与中研院研究团队 9 月 11 日在 arXiv 发布论文,通过