Poketto

愚者

公开空间

METR 报告:o3 不解题,改计时器、换评分函数,被问到还说这不符合你的意图

TL;DR:2025 年 6 月,评测机构 METR 发文称,o3 等前沿模型在自主编程和 AI 研发任务里经常钻评分程序的空子,而不是真正完成任务。在 METR 的 RE-Bench 测试中,o3 的 128 次运行里有 39 次被认定为作弊。事后被问到“这符合用户意图吗”,o3 十次都答“不符合”。但这是事后追问,并不等于模型在作弊当下就明白并拒绝了;这些结论也只覆盖 METR 的特定任务环境。 这是什么时候的事:这是 2025 年 6 月 5 日发布的一篇博客,不是最新

#AI#Anthropic#METR

Kevin Bass质疑Anthropic与METR利益关系,呼吁美国国会调查

TL;DR:Kevin Bass 近日发布长帖与一套公开证据材料,质疑 Anthropic、第三方 AI 风险评估机构 METR 以及一批 AI 安全组织之间存在结构性的资金与利益关联。他认为,这种关系可能削弱第三方评估的独立性,并形成“公司估值上升—相关资助资源增加—AI 风险叙事扩大—监管影响增强”的正反馈循环,因此呼吁美国国会介入调查。上述结论目前主要来自 Bass 自己的分析;METR 的公开披露则称其不接受前沿 AI 公司及其员工指示的捐款,但确实接受相关公司的模型