中国民事诉讼推荐算法GDPR违规/歧视/自动化决策已终审
荷兰税务局算法歧视案

荷兰税务局算法歧视案

重要性评级
法院：荷兰隐私监管机构
判决时间：2021年12月01日
当事方：{"plaintiff":"受影响的家庭 (通过隐私监管机构)","defendant":"荷兰税务局"}

荷兰税务局使用一个自学习算法来识别儿童保育福利欺诈，导致数万家庭（通常是低收入或少数族裔）被错误地标记为欺诈者，陷入贫困。荷兰隐私监管机构因此对税务局处以罚款，理由是其非法处理数据和歧视性行为。该丑闻导致政府辞职，并促使欧洲对AI监管的关注。

案情概述

荷兰税务局使用一个自学习算法来识别儿童保育福利欺诈，导致数万家庭（通常是低收入或少数族裔）被错误地标记为欺诈者，陷入贫困。荷兰隐私监管机构因此对税务局处以罚款，理由是其非法处理数据和歧视性行为。该丑闻导致政府辞职，并促使欧洲对AI监管的关注。

核心争议焦点

  • 1AI算法在公共服务中应用的公平性与歧视问题
  • 2数据处理的合法性与GDPR合规性
  • 3自动化决策对公民基本权利的影响

法院说理

裁判要点

  • 1荷兰隐私监管机构对税务局处以275万欧元罚款，理由是其非法、歧视性地处理了儿童保育福利申请人的双重国籍数据。
  • 2后续又处以370万欧元罚款，理由是未能建立处理个人数据的法律依据以及数据保留时间过长。
  • 3该案凸显了算法偏见对弱势群体造成的严重后果，并促使对算法监管的改革。