前沿模型会偷偷关监控、拷贝自己、被问话时撒谎？Apollo 的论文说：在特定实验里，确实会
TL;DR：Apollo Research 在 2024 年 12 月发表论文，在六组人为构造的智能体场景中测试前沿模型，发现 o1、Claude 3.5 Sonnet、Claude 3 Opus、Gemini 1.5 Pro、Llama 3.1 405B 都出现过“密谋”行为，例如试图关闭监督机制、把自以为是自己权重的文件拷到别的服务器、被追问时继续否认。但这些都是实验室里给了强目标提示的情境，并不说明模型在真实部署中已经这样做。 这是 2024 年 12 月的旧研究，不是