欧盟非歧视法视角下的算法不公平：为何法律不是决策树

May, 2023

欧盟非歧视法视角下的算法不公平：为何法律不是决策树

Algorithmic Unfairness through the Lens of EU Non-Discrimination Law: Or Why the Law is not a Decision Tree

Hilde Weerts, Raphaël Xenidis, Fabien Tarissan, Henrik Palmer Olsen, Mykola Pechenizkiy

TL;DR本研究旨在分析欧洲联盟的非歧视法与计算机科学领域先进的算法公正概念之间的重叠与区别，研究表明，当前的 AI 实践和非歧视法存在的局限性，对 AI 从业者和监管者有着重要的启示。

Abstract

Concerns regarding unfairness and discrimination in the context of artificial intelligence (AI) systems have recently received increased attention from both legal and computer science scholars. Yet, the degree of overlap between notions of algorithmic bias and fairness on the one hand,

algorithmic bias fairness metrics non-discrimination law ai practice regulations

发现论文，激发创造

为什么公平性无法自动化：弥合欧盟反歧视法和人工智能之间的差距

通过对非歧视法的案例进行研究，提出了一种指标条件人口差异（CDD）来衡量机器学习中的公平性，此举可促进机器学习中公平性考虑，并尊重欧盟非歧视法中的情境因素。

May, 2020

AI 法案对非歧视法和算法公平性的影响

AI Act 试图在 AI 模型的设计阶段，将非歧视责任与算法公平两个概念联系起来，以缓解结构性的不平等问题，并提出了对于偏见检测和偏见修正的实际应用和技术要求方面的建议。

Mar, 2024

公平性指标在欧盟非歧视法律中的相容性：人口多样性平衡和条件人口差异

本研究旨在通过条件人口失调性 (CDD) 的公平性定义来评估公平度量和公平约束，在欧盟非歧视法律框架下支持公平上下文方法，并进行了数据分析，发现 AI 辅助决策在法律角度上具有公平性，取决于具体情况和法律理由。

Jun, 2023

自动决策系统中的公平性和可解释性：计算机科学与法律的挑战

本论文针对算法决策中的公平性问题提供了跨学科的构想。其中，法律系统的差异是一个核心问题，同时论文提出了一种上下文方法来处理意外的群体歧视，研究算法决策的可解释性。

May, 2022

算法公正性

本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

Jan, 2020

中性谬误：算法公平干预何时 (不) 是积极行动

算法公平性干预常被解释为防止歧视而非积极行动措施，调研结果提出在算法决策和公平干预中，应该从不造成伤害的消极义务转向积极‘不造成伤害’的责任。

Apr, 2024

数字市场法规下的门户 AI 与数据监管：透明度、获取和公平性

该研究论文旨在分析欧盟数字市场法规中的人工智能应用于数字经济的规则，研究表明在公平性问题上的 DMA 远胜过 AI Act，提供了具体的解决方案。

Dec, 2022

算法时代下的歧视

算法在歧视方面的可见性与不透明性的影响，以及其在歧视检测中提供重要透明度的需求，这也强调了算法在权衡竞争价值中的核心作用及其为公平带来积极作用的潜力。

Feb, 2019

公平且无偏的算法决策制定：现状与未来挑战

机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

Jan, 2019

学习非歧视性决策树的最优和公平决策

本文提出了一个多功能的混合整数优化框架，用于学习最优和公平的决策树和其变体，避免不公平对待和 / 或不公平影响。计算结果表明，这个框架提高了领域内的技术水平，能以更低的成本提高准确性，从而产生非歧视性的决策。

Mar, 2019