谷歌相册把黑人标成“大猩猩”：补救办法是让它再也认不出大猩猩
目录
配图：AI 生成的概念示意图，非真实现场、产品截图或研究数据。
TL;DR：2015 年，谷歌相册的自动分类把两名黑人用户的照片归入“大猩猩”，谷歌公开道歉。谷歌当时的应急做法是删掉这个标签。2018 年《连线》杂志测试发现，搜索 gorilla、chimp、chimpanzee、monkey 仍然没有结果，谷歌也承认这些词被屏蔽。已确认的只有这些，谷歌从未公布过根本原因，也没有说过标签是否已经恢复。
这是 2015 年的旧事
这不是今天的新闻。事情发生在 2015 年 6 月底，谷歌相册（Google Photos）上线才一个多月。它的卖点之一是自动识别照片内容并分组，不用手动打标签。
发生了什么
纽约布鲁克林的程序员 Jacky Alciné 发现，相册把他和一位朋友的合影归进了“大猩猩”这个分组。他在推特上贴出截图，并写明那个分组里只有他们两个人。
谷歌的“社交首席架构师”Yonatan Zunger 很快在推特上回复，请求查看他的账号数据以排查原因，几个小时后表示修复已在进行。他称这个错误“完全不可接受”，说它本质上是“普通的机器学习问题”，但因为种族歧视的历史而格外恶劣。谷歌的官方声明说，对此感到“震惊并深表歉意”，并承诺会采取措施，避免再出现这类结果。
补救办法：把词删了
谷歌说的“长期修复”，包括改进对深肤色面孔的识别。但最先落地的是最简单的一招：不再给照片贴“大猩猩”这个标签。
2018 年 1 月，《连线》用约 4 万张动物照片测试谷歌相册。熊猫、贵宾犬都能认出来，但搜索 gorilla、chimp、chimpanzee、monkey 都显示“无结果”；狒狒、长臂猿、狨猴之类其他灵长类仍可识别。谷歌发言人向《连线》确认，这几个词确实被屏蔽，并表示图像标注技术仍处于早期，“远非完美”。
《连线》还发现，谷歌自家的 Cloud Vision 能正确标出大猩猩，说明被封掉的是相册里的标签，而不是识别能力本身。
为什么值得回头看
这件事常被当作算法偏见的典型案例。它的荒诞在于：问题出在模型对一部分人的识别质量不够好，而最稳妥的补丁是让整个类别消失。真大猩猩的照片因此也受了牵连，模型依旧没有被教会分辨。
《麻省理工科技评论》当时的评论指出，偏见来自训练数据与人，靠屏蔽标签治不了根。谷歌这次给了一个后来很多公司都会面对的选择：修模型很慢，删词只要一个下午。
本文只能确认到 2018 年的状况，之后的变化没有可靠来源，请勿当作现状。
来源：
- PetaPixel：Google Apologizes After Photos App Autotags Black People as ‘Gorillas’
- MIT Technology Review：Google Photos still has a problem with gorillas
- AI Incident Database：https://incidentdatabase.ai/reports/95