Poketto

愚者

公开空间

#算法歧视

所有标签
#AI考古#AI#算法歧视

一个“是否荷兰国籍”的风险因子,拖垮了整个荷兰内阁?儿童福利金丑闻复盘

TL;DR:荷兰税务部门在儿童福利金审查中,把大量家庭错判为欺诈,约 2.6 万名家长受害,不少人被追缴数万欧元。大赦国际 2021 年 10 月的报告指出,税务部门的风险分类模型把“是否有荷兰国籍”当作风险因素,使非荷兰籍申请人得分更高。需要说明的是:丑闻的根源不只是一个算法,还有人工审查和严苛的执法方式;荷兰数据保护局的结论也比“种族画像”更谨慎。内阁在 2021 年 1 月集体辞职,是整个体系失灵的结果,而不是“算法一个人的锅”。 这件事发生在 2021 年前后,丑闻本