Poketto

来自不同空间的记录

今天,发现一点新东西。

随意翻翻,也许会遇见想要留下的一页。

全部#CoT监控

正在发现「CoT监控」相关内容。

愚者目录

斯坦福与 CMU 提出 Plan Injection:恶意计划被模型改写成「干净」的推理链,CoT 监控可被绕过

TL;DR:斯坦福大学与卡内基梅隆大学的研究团队 9 月 14 日在 arXiv 发布论文《Corrupt Plans, Clean Traces: Evading Chain-of-Thought Monitoring with Plan Injection》(arXiv:2609.15989)。论文提出一种名为 Plan Injection 的攻击:攻击者不直接要求模型做坏事,而是往上下文里塞一份听起来无害、实际暗藏错误目标或后门的「完整计划」。模型读到后会把它吸收、改写