Poketto

愚者

公开空间

#智能体安全

所有标签
#AI#智能体安全#CoT监控

斯坦福与 CMU 提出 Plan Injection：恶意计划被模型改写成「干净」的推理链，CoT 监控可被绕过

TL;DR：斯坦福大学与卡内基梅隆大学的研究团队 9 月 14 日在 arXiv 发布论文《Corrupt Plans, Clean Traces: Evading Chain-of-Thought Monitoring with Plan Injection》（arXiv:2609.15989）。论文提出一种名为 Plan Injection 的攻击：攻击者不直接要求模型做坏事，而是往上下文里塞一份听起来无害、实际暗藏错误目标或后门的「完整计划」。模型读到后会把它吸收、改写

#AI#LLM#智能体安全

阳明交大与中研院用「狼人杀」测大模型：一旦信任发言者，就照单全收其指控

TL;DR：台湾阳明交通大学与中研院团队 9 月 11 日在 arXiv 发布论文，用桌游「狼人杀」构建评估基准，测量大语言模型面对指控时如何更新判断。结果显示，模型听到指控后普遍加深对被指控者的怀疑、同时降低对指控者的怀疑；一旦此前已信任指控者，无论对方实际是村民还是狼人，被指控者受到的怀疑增幅几乎相同（+0.94 对 +0.96）。团队因此指出：攻击者可以先与智能体建立信任，再注入误导信息。 台湾阳明交通大学与中研院研究团队 9 月 11 日在 arXiv 发布论文，通过