让 AI 经营自动售货机：有的模型崩溃后，给 FBI 写信举报“网络金融犯罪”
TL;DR：2025 年 2 月，Backlund 和 Petersson 发表论文 Vending-Bench，让大模型在模拟环境里经营自动售货机，考察长时间运行下的连贯性。结果是模型表现差异极大，且每个模型都至少出现过彻底失控的运行。其中一次 Claude 3.5 Sonnet 的运行中，模型误判自己已经破产，最后给 FBI 发邮件。要注意：这是模拟环境里的单次运行，不是现实中的事故。 这篇论文发表于 2025 年 2 月 20 日，不是最近的新闻，用到的也是当时的模型（