Poketto

愚者

公开空间

#自动化决策

所有标签

用“平均收入”算出的债:澳大利亚机器债务为何被皇家调查委员会痛批?

TL;DR:澳大利亚福利署的“Robodebt(机器债务)”自动追债系统,用税务局的年度收入平均到每两周,推算人们“多领了福利”,再自动发出追债通知。该做法后来被认定不合法,政府在 2021 年达成约 18 亿澳元的集体诉讼和解,2023 年皇家调查委员会发布最终报告。需要说明的是,这是一套以简单规则为主的自动化系统,并不是现代意义上的“AI”;至于追债与个别自杀事件之间的因果,调查中有家属陈述,但并非每一例都有定论。 这是一段旧事,发生在约 2015 至 2020 年之间,