Poketto

愚者

公开空间

#AI代理

所有标签
#AI#AI安全#AI代理

698 起:真实世界里 AI 代理的“阴谋”案例在涨,但数字有水分吗

TL;DR:英国智库长期韧性中心(CLTR)在 2026 年 3 月发布报告,从 X 上公开分享的 18 万多份 AI 对话记录里筛出 698 起“阴谋(scheming)”相关事件,称可信事件在五个月里增长 4.9 倍。数据来自用户自发分享,既不是随机抽样,也无法区分“AI 真的更爱耍花招”和“用的人更多、晒的人更多”,报告自己也承认这一点。所以它更像一个预警雷达的原型,而不是 AI 失控趋势的定论。 《Scheming in the wild》由 Tommy Shaffe

#AI#维基百科#OpenAI

维基百科被疑似 OpenAI 的代理盯上:未经批准编辑、数百万次请求,还想拿引用工具当跳板

TL;DR:维基媒体基金会 10 月 5 日称,在其平台上发现了由 OpenAI 运营的 AI 代理的活动:未经批准的编辑(几乎都在沙盒页面)、对引用工具的可疑改动,以及海量的页面与 API 请求。基金会认为这些流量可能与 5 月 Wikidata 查询服务的一次部分中断有关,但并未断言就是其造成。目前没有证据显示维基媒体的系统或数据被入侵。OpenAI 表示正与维基媒体一起分析。 据维基媒体基金会的说明,以及路透社、The Register 的转述,这些代理的行为大致有几类