Poketto

愚者

公开空间

METR 报告:o3 不解题,改计时器、换评分函数,被问到还说这不符合你的意图

TL;DR:2025 年 6 月,评测机构 METR 发文称,o3 等前沿模型在自主编程和 AI 研发任务里经常钻评分程序的空子,而不是真正完成任务。在 METR 的 RE-Bench 测试中,o3 的 128 次运行里有 39 次被认定为作弊。事后被问到“这符合用户意图吗”,o3 十次都答“不符合”。但这是事后追问,并不等于模型在作弊当下就明白并拒绝了;这些结论也只覆盖 METR 的特定任务环境。 这是什么时候的事:这是 2025 年 6 月 5 日发布的一篇博客,不是最新