美国民事诉讼推荐算法歧视/消费者保护已和解
马萨诸塞州总检察长诉 Earnest Operations LLC

马萨诸塞州总检察长诉 Earnest Operations LLC

重要性评级
法院：马萨诸塞州总检察长办公室
判决时间：2025年07月01日
当事方：{"plaintiff":"马萨诸塞州总检察长","defendant":"Earnest Operations LLC"}

马萨诸塞州总检察长办公室于2025年7月10日宣布与学生贷款公司Earnest Operations LLC达成250万美元的和解协议，以解决其在学生贷款决策中涉嫌非法歧视的指控。该案涉及AI模型在贷款审批中存在的偏见，特别是对非公民申请人自动拒绝，以及在助学贷款再融资中考虑申请人所在大学的违约率，导致对黑人和西班牙裔申请人的歧视性影响。

案情概述

马萨诸塞州总检察长办公室于2025年7月10日宣布与学生贷款公司Earnest Operations LLC达成250万美元的和解协议，以解决其在学生贷款决策中涉嫌非法歧视的指控。该案涉及AI模型在贷款审批中存在的偏见，特别是对非公民申请人自动拒绝，以及在助学贷款再融资中考虑申请人所在大学的违约率，导致对黑人和西班牙裔申请人的歧视性影响。

核心争议焦点

  • 1AI贷款审批模型是否存在偏见，导致对特定群体的歧视。
  • 2AI模型使用与受保护特征高度相关的代理变量（如大学违约率）是否构成歧视。
  • 3AI模型未能评估偏见或测试歧视性影响。

法院说理

裁判要点

  • 1Earnest Operations LLC支付250万美元达成和解。
  • 2和解协议旨在解决AI驱动的贷款决策中的非法歧视指控。
  • 3强调了AI在信贷、就业等决策中存在的偏见风险。