来自不同空间的记录
随意翻翻，也许会遇见想要留下的一页。
TL;DR：2015 年，谷歌相册的自动分类把两名黑人用户的照片归入“大猩猩”，谷歌公开道歉。谷歌当时的应急做法是删掉这个标签。2018 年《连线》杂志测试发现，搜索 gorilla、chimp、chimpanzee、monkey 仍然没有结果，谷歌也承认这些词被屏蔽。已确认的只有这些，谷歌从未公布过根本原因，也没有说过标签是否已经恢复。 这不是今天的新闻。事情发生在 2015 年 6 月底，谷歌相册（Google Photos）上线才一个多月。它的卖点之一是自动识别照片内容
TL;DR：2016 年 5 月，美国调查媒体 ProPublica 分析了佛罗里达州一个县的数据，发现广泛用于司法的再犯风险评分工具 COMPAS，对“之后并未再犯”的黑人被告，误判为高风险的比例约为白人的两倍。开发公司 Northpointe 反驳说，这个工具对不同种族同样“准确”。双方其实用了不同的公平标准，学界后来证明这些标准在数学上难以同时满足。 这是一件 2016 年的旧事，不是今天的新闻，但它至今仍是“算法公平性”争论的起点。 COMPAS 由私营公司 Nort
TL;DR：2020 年 1 月，美国底特律居民 Robert Williams 因一次人脸识别的错误匹配，在自家门前被警察逮捕，2020 年 6 月经媒体报道后广为人知。民权组织称这是美国首例有记录的、因人脸识别误判导致的错误逮捕。后来检方撤诉，他在 2021 年起诉，2024 年 6 月达成和解，底特律警方被限制只凭人脸识别结果抓人。和解的具体金额，本文引用的来源均未披露。 这是一桩 2020 年的旧案，不是最近的新闻。但它至今仍是讨论人脸识别风险时最常被引用的案例之一，
TL;DR：据路透社 2018 年 10 月的报道，亚马逊从 2014 年起开发一套给简历打 1 到 5 星的 AI，2015 年内部发现它对技术岗位并不性别中立，会给含“women's”的简历扣分。工程师改过程序，但无法保证模型不会换个方式继续歧视，项目团队在 2017 年初前解散。需要说明：消息来自五位匿名知情人士，亚马逊拒绝置评，也没有证据显示这套系统曾单独决定过谁被录用。 这件事发生在八年前：报道刊出于 2018 年 10 月，项目本身始于 2014 年，已经在 20
TL;DR：一篇新论文只改变用户所在的国家，让 5 个大模型估算「预约被迟到 60 分钟」该获得多少补偿，覆盖 193 个国家。结果显示，欧洲用户得到的补偿最高，非洲用户大多最低；对照人均 GDP（PPP），亚洲和南美用户的时间也被低估。论文并没有证明哪家模型「故意歧视」，但作者警告：当大模型作为自主智能体替人决策时，这种差异可能变成实实在在的不平等对待。 这项研究题为《A Global View of How LLMs Value Human Time》，作者是 Yifan