Poketto

愚者

公开空间

#AI考古

所有标签
#AI考古#AI#Cursor

AI 公司被自家 AI 客服坑了:Cursor 的客服机器人编出一条不存在的“单设备登录政策”

TL;DR:2025 年 4 月,AI 编程工具 Cursor 的 AI 客服在邮件里告诉用户,订阅不能在多台机器上同时使用,但这条政策根本不存在。联合创始人公开澄清并道歉式地更正,被登出的问题据称源于一个已修复的竞态条件。需要说明的是:本文能确认的是“客服机器人说了不存在的政策”和公司的回应,具体有多少用户因此退订,本文没有可靠数字。 这是 2025 年 4 月中旬的旧事,不是今天的新闻,但它几乎是“AI 幻觉进入真实业务”的标准教材。 Cursor 由 Anysphere

#AI考古#AI#医疗AI

IBM 的“AI 肿瘤医生”被曝推荐不安全方案:问题可能出在训练它的“病例”上

TL;DR:2018 年 7 月,STAT 报道称,IBM 内部幻灯片承认 Watson for Oncology 的建议常不准确,客户和 IBM 自家医学专家都发现过不安全的推荐。文件把原因主要归到训练方式:它学的是少量人造的假想病例,而不是真实患者数据。报道本身不等于“Watson Health 因此倒闭”;该业务后来在 2022 年被出售,二者之间是否直接因果,这里不下结论。 这是 2018 年的旧事,不是今天的新闻,放在“AI 考古”里,是因为它至今仍是医疗 AI 最

#AI考古#AI#GPT-2

GPT-2 当年「太危险」不敢全放:15 亿参数的小模型,是安全预警还是营销?

TL;DR:2019 年 2 月,OpenAI 发布 GPT-2,却以担心被恶意利用为由,没有放出完整模型,之后分几个阶段陆续开放,11 月才放出全部 15 亿参数。已经确定的是这个分阶段发布的过程和时间表;OpenAI 自己在发布完整模型时也表示,当时没有看到强有力的滥用证据。「被讽炒作」确有其事,但这件事究竟是过度谨慎还是有益的先例,至今仍有争论。 这是一件发生在 2019 年的旧事,不是今天的新闻。放在今天看,15 亿参数连一个入门级的开源模型都算不上,当年却被媒体写成

#AI考古#AI#谷歌

谷歌 AI 概述教人往披萨上涂胶水、每天吃石头:不是 AI 疯了,是它太相信网上的玩笑

TL;DR:2024 年 5 月,谷歌搜索的「AI 概述」在美国全面上线不久,就因为建议「往披萨酱里加胶水」「每天吃一块小石头」被网友疯传。谷歌随后发文承认问题,并给出了原因:玩笑帖、讽刺内容和「数据空白」。已确认的是这些回答确实出现过、谷歌也做了调整;谷歌同时称,网上流传的部分截图是伪造的。 这是 2024 年 5 月的旧事,不是今天的新闻。 当月中旬,谷歌在 I/O 大会前后把 AI 概述推给美国所有用户,也就是在搜索结果顶部直接用生成式 AI 写一段答案。没过多久,社交

纽约市官方 AI 教老板克扣员工小费、拒收现金:它没说错的只有“我可能会错”

TL;DR:2024 年 3 月,媒体 The Markup 测试纽约市政府推出的官方商业问答机器人 MyCity,发现它在小费、现金支付、租房等问题上多次给出与法律相悖的建议。这些是记者的实测结果,机器人的回答并不稳定,同一问题可能得到不同答案。市政府称这是试点项目,会持续改进。2026 年初,新任市长宣布将其下线。 这是一件 2024 年的旧事。 2023 年 10 月,时任纽约市长亚当斯宣布一项 AI 计划,核心就是 MyCity 聊天机器人:帮想开店、做生意的人查规则

#AI考古#AI#CNET

CNET 悄悄让 AI 写理财文:77 篇里 41 篇要改,其中一篇连“复利是什么”都讲错了

TL;DR:2023 年初,科技媒体 CNET 被发现用 AI 工具批量撰写理财科普文章,且署名含糊。主编事后承认,77 篇 AI 辅助文章中有 41 篇需要更正,其中少数是较大的更正。CNET 随后暂停使用该工具。“编辑部集体发火”这类说法本文没有找到可靠来源,不在此下结论。 这是 2023 年 1 月的旧事,不是今天的新闻,但它是“AI 进入新闻编辑室”最早、也最典型的翻车现场之一。 2023 年 1 月中旬,有人注意到 CNET 上出现了一批理财科普文,作者栏写着“CN

#AI考古#AI#媒体

《体育画报》的作者“Drew Ortiz”查无此人:头像在 AI 头像网站上架,出版方说文章是外包的

TL;DR:2023 年 11 月,科技媒体 Futurism 报道称,《体育画报》(Sports Illustrated)网站上有署名“Drew Ortiz”等作者的文章,这些作者在网上查不到任何痕迹,头像出现在一家出售 AI 生成头像的网站上。已确认的是:作者身份疑似虚构,出版方事后删除了相关内容并终止合作。仍有争议的是文章正文是否由 AI 写作:Futurism 引述匿名消息源称是,出版方则称这些文章由外部公司提供,并称对方保证全部为真人撰写和编辑。 这是一件发生在 2

#AI考古#AI#版权

训练算合理使用,但盗版库不行:Anthropic 为此付了 15 亿美元

TL;DR:2025 年,作家 Bartz 等人对 Anthropic 提起集体诉讼,法官认为用买来的书训练模型可算合理使用,但从盗版库下载并长期留存书籍不在此列。双方随后以 15 亿美元和解,折合每部作品约 3000 美元。需要说明的是:法院并没有裁定“AI 训练一律合法”或“一律侵权”,和解也不等于对输出内容的版权问题盖棺定论。 这是 2025 年的旧案,不是今天的新闻。案子在 2025 年夏天出现关键裁决,同年 9 月达成和解,2026 年 7 月才拿到最终批准,是个适

#AI考古#AI#版权

纽约时报起诉 OpenAI:GPT-4 能把付费报道背给你听?诉状这样举证

TL;DR:2023 年 12 月 27 日,纽约时报在纽约南区联邦法院起诉微软和多家 OpenAI 实体,指控其未经许可用时报文章训练模型。诉状的核心证据是附件 Exhibit J:约 100 组 GPT-4 近乎逐字复述时报文章的对照。诉状自称索赔「数十亿美元」,并请求销毁相关模型,但这只是原告的主张;诉状里写的是「scores of examples」(数十组示例),不是成百上千。 这是 2023 年底的旧事,不是今天的新闻。当时 ChatGPT 刚满一周年,「大模型训

#AI考古#AI#OpenAI

马斯克告 OpenAI「背离初心」,OpenAI 翻出 2018 年旧邮件:当年想并入特斯拉的,是你自己?

TL;DR:2024 年,马斯克起诉 OpenAI 背离非营利使命;OpenAI 随即公开 2015 至 2018 年间的往来邮件,称他当年要的是多数股权、董事会控制权和 CEO 位置,谈不拢就提议并入特斯拉。邮件由 OpenAI 一方公布且有删节,马斯克则不认同这种解读。后来案子进入陪审团审理,2026 年 5 月陪审团一致裁定:起诉太晚。这并不等于法庭认定了谁更「忠于初心」。 这是 2024 年发生的旧事,结局在 2026 年才落定,不是今天的新闻。 起点:一家为「对冲谷

#AI考古#AI#围棋

解说员说“这是失误吧”:AlphaGo 第 37 手,和李世石那一手“神之一手”

TL;DR:2016 年 3 月,DeepMind 的 AlphaGo 在首尔以 4:1 击败李世石。第二局的第 37 手让现场困惑,按 DeepMind 的说法,这一手被人类棋手选中的概率约为万分之一,但它最终帮助 AlphaGo 取胜。第四局李世石的第 78 手同样被估为万分之一,是他唯一赢下的一局。“人类最后一胜”需要限定语境:这是人类在这场正式五番棋里的唯一一胜。 这是十年前的旧事,发生在 2016 年 3 月 9 日至 15 日。 背景 2016 年 1 月 28

#AI考古#AI#Builder.ai

估值 15 亿美元的“AI 搭建应用平台”破产:收入被夸大是真的,“几百个印度工程师冒充 AI”只是半真半假?

TL;DR:英国创业公司 Builder.ai 曾获微软等投资、估值约 15 亿美元,2025 年 5 月因贷款方划走账上现金而进入破产程序。多家媒体报道其收入被大幅夸大,公司内部调查后把 2024 年的预期收入从 2.2 亿美元下调到约 5500 万美元。“AI 其实是几百个印度工程师手写”这一说法流传很广,但各方说法并不一致,没有被独立审计证实。 这是 2025 年 5 月的旧事,不是今天的新闻。 Builder.ai 前身是 Engineer.ai,总部在伦敦,主打让客