Poketto

愚者

公开空间

#AI考古#AI#人脸识别

一家没人听说过的公司,用 30 亿张网上照片造了个“认人搜索引擎”:Clearview AI 是怎么被曝光的

TL;DR:2020 年 1 月,《纽约时报》披露美国初创公司 Clearview AI 做了一个人脸搜索应用:上传一张照片,就能从它抓取的海量网络照片里找到此人的其他照片和来源链接。公司称数据库超过 30 亿张图片,已有 600 多家执法机构使用。“图片来自公开网页”是公司的说法,这些照片并未经过本人同意,这也是此后各国监管和诉讼的焦点。 这不是今天的新闻。2020 年 1 月 18 日,《纽约时报》刊发调查报道,把当时几乎无人知晓的 Clearview AI 推到了台前。

#神人论文#AI#论文

让 ChatGPT 一直重复 “poem”,它吐出了训练数据,其中包括真人的联系方式

TL;DR:2023 年底,Google DeepMind 等机构的研究者发现,让 ChatGPT(gpt-3.5-turbo)无限重复某个词,它会在某一刻“跑偏”,并开始原样吐出训练数据。他们用约 200 美元的查询就拿到了一万多条逐字记忆的样本,其中确实含有真人的个人信息。需要说明的是:这不是每次都成功,且只发生在当年的 gpt-3.5-turbo 上,论文也说明这一漏洞已与 OpenAI 协作缓解。 这是 2023 年 11 月(arXiv 提交日期 11 月 28 日