KDDAug, 2019

Paired-Consistency: 一种基于示例的模型无关公平正则化方法

PDF
TL;DR该论文研究了在 AI 系统发展中确保非歧视的问题，提出了基于领域专家生成数据集扩展的方法，并定义了一种名为‘paired consistency’的性能度量，在优化过程中嵌入一致性作为公正的正则化器，也可供公平模型选择使用，最后通过应用这种方法于总结的美国人口普查数据集，得到了实验证明。
ai systemsnon-discriminationfairnessperformance metricincome census dataset
发现论文，激发创造
  • 排名和回归的成对公平性

    我们提出了针对排名模型和回归模型的成对公平度量标准，这些标准类似于统计公平概念，如平等机会、平等准确性和统计平等，通过现有的约束优化和鲁棒优化技术可以有效地解决结果训练问题，实验表明这些方法具有广泛的适用性和权衡性。

    Jun, 2019

  • 公平性的测度和误测：公平机器学习的关键综述

    公平机器学习的早期专注是确保由算法指导的决策是公平的，三个公平定义引起了人们的关注，即反分类，分类平衡和校准，但这三个公平定义都有重大的统计局限性。相比之下，我们认为更倾向于根据最准确的风险估计对类似风险的人进行相似的处理，而不是一定要满足公平的数学定义，并强调这种方法需要大量的努力来构建适当的风险估计。

    Jul, 2018

  • 公平分类中的方差、自一致性和任意性

    本文介绍了一种关于在公平分类中使用集成算法，解决分类结果不稳定导致任意性和观点关于公平性的不可靠等问题。实验结果表明，我们的方法可以显著降低子组误差率差异，无需使用常见的公平性干预措施。

    Jan, 2023

  • 具有统计保证的参数公平性

    通过将与预测相关的分布属性纳入考虑，我们扩展了人口平等的概念，允许专家知识在公平解决方案中得到应用，并通过一个工资的实际案例说明了此新度量的使用，同时开发了解决实际挑战的参数方法，提供了一个适用于现实生活中应用场景的强大解决方案。

    Oct, 2023

  • 利用概率受保护特征估计和实现常规公平度量

    在有限的受保护属性标签访问情况下，本文开发了测量和减少公平违规的方法，提出了估计现有模型的常见公平度量和解决约束非凸优化问题以限制公平违规的模型训练技术，并且相比其他受限受保护属性的公平优化方法，在减小公平度的同时减少了公平性和准确性的权衡。

    Oct, 2023

  • 机器学习中的多模型公平和伦理

    该研究探讨了预测模型多样性对公平性的影响，发现在多个同等效果的模型中选择对于个人可能具有不利影响，而单纯技术手段无法解决这种问题。

    Mar, 2022

  • 通过两两比较实现推荐排序中的公平性

    本研究提出了一套度量算法公平性关注的新型指标，基于随机实验的成对比较来衡量公平性，建立了新的规则化器，促进了模型训练和推荐系统的公平性。

    Mar, 2019

  • 公正对待：通过成对扰动对语言模型中的偏见进行稳健评估

    FairPair 是一个评估框架，用于评估在普通使用中发生的差异对待；通过对具有相同人口群体背景的对照组进行分析，考虑了生成过程本身的变异性，表明更倾向于将家庭和爱好与女性相关联。

    Apr, 2024

  • 公平性 - 准确性权衡：因果视角

    机器学习系统可能基于性别、性别、宗教或种族等敏感特征表现出歧视行为，因此提出了各种公平性概念和量化歧视方法，并发展了构建公平预测器的众多方法。本研究首次从因果角度分析了公平性和准确性之间的紧张关系，提出了路径特定过量损失（PSEL）的概念来衡量当强制施加因果公平性约束时预测器的损失增加程度，并证明了总过量损失（TEL）可以分解为更多本地 PSEL 值的总和。同时，强制施加因果约束通常会减少人群之间的差距。因此，我们引入了一个数量，用于总结公平性和效用之间的权衡，称为因果公平 / 效用比，定义为减少歧视与约束因果路径产生的过量损失之间的比值。最后，由于我们的方法需要具有因果约束的公平预测器，我们介绍了一种新的用于因果约束公平学习的神经方法。

    May, 2024

  • 更公平、更准确，但为谁而做？

    该论文介绍了一种比较不同风险评估模型公平性的框架，特别关注与种族和性别的不平等问题，以预测再犯率和贷款为例进行实验。

    Jun, 2017