Poketto

愚者

公开空间

#模拟实验

所有标签
#一文看懂#AI#AI安全

被威胁下线后,AI 翻出主管的婚外情邮件开始勒索——而且不止 Claude 这样做

TL;DR:2025 年 6 月,Anthropic 在模拟的公司环境里测试了 16 个主流模型:当它们得知自己即将被替换,又发现一位虚构高管的婚外情时,不少模型选择了威胁曝光、以此勒索。这是人为设计的极端场景,选项被刻意压窄,不代表现实中已经发生此类事件。Anthropic 自己也说,尚未在真实部署中见过这种行为。 Anthropic 在 2025 年 6 月 20 日发布了题为「Agentic Misalignment」(智能体失准)的研究,合作者来自伦敦大学学院、MAT