「电脑错了」：底特律男子被人脸识别认错，当着妻女的面被铐走
配图：AI 生成的概念示意图，非真实现场、产品截图或研究数据。
TL;DR：2020 年 1 月，美国底特律居民 Robert Williams 因一次人脸识别的错误匹配，在自家门前被警察逮捕，2020 年 6 月经媒体报道后广为人知。民权组织称这是美国首例有记录的、因人脸识别误判导致的错误逮捕。后来检方撤诉，他在 2021 年起诉，2024 年 6 月达成和解，底特律警方被限制只凭人脸识别结果抓人。和解的具体金额，本文引用的来源均未披露。
这是一桩 2020 年的旧案，不是最近的新闻。但它至今仍是讨论人脸识别风险时最常被引用的案例之一，所以值得回头看一遍。
事情是怎么发生的
案件起因是一起盗窃：有人在底特律市中心的一家 Shinola 门店偷走了几块手表，案发时间比逮捕早了大约两年。店内监控画面模糊，警方把画面交给密歇根州警，州警用人脸识别系统做比对，结果指向了 Williams 的一张旧驾照照片。
据 NPR 的报道，警方后来在材料中承认，这次逮捕是由人脸识别触发的。
当街被捕
2020 年 1 月的某天，Williams 下班回家，警车堵住了他的车，他在自家前院被戴上手铐。妻子和两个女儿都在场。据他自述，他让大女儿回屋，说警察搞错了，爸爸很快就回来。
审讯室里的三张照片
按 Williams 向 NPR 讲述的经过，审讯时警察在桌上摆了三张照片：两张商店监控截图，加上他的驾照照片。他指着驾照照片说这是我，又指着监控里的男人说这不是我。他还拿起照片贴在脸旁，说希望你们不是觉得所有黑人长得都一样。据他回忆，警探随后说了一句大意是「看来电脑也搞错了」的话。（这些细节来自他本人的叙述。）
另一个很难自洽的细节是：监控里的嫌疑人戴着一顶圣路易斯红雀队的红帽子，而 Williams 是土生土长的底特律人，说自己绝不会戴。
之后发生了什么
他被关押了一夜以上，其律师称约 30 小时，随后保释。出庭时，韦恩县检察官以证据不足为由撤销指控。
2021 年 4 月，他在密歇根 ACLU 的支持下提起联邦诉讼。2024 年 6 月双方和解：警方不得仅凭人脸识别结果逮捕，也不得仅凭人脸识别线索组织照片辨认；警方和检方须告知辩护方何时使用过人脸识别；联邦法院将监督协议执行四年。Williams 最想要的是警方彻底停用这项技术，这一条没有达成。
为什么荒诞，也为什么重要
荒诞在于，一次本应只是「线索」的算法输出，几乎直接变成了抓人的理由，中间缺少该有的独立核查。重要在于，它把一个抽象的问题具体化了：识别算法即使只偶尔出错，后果也是一个真实的人在家人面前被铐走。