Apr, 2023

通过分组学习：一种多层次优化框架，提高分类公平性而不损失准确性

PDF
TL;DR本文提出了一种新的机器学习框架，旨在为实现公正和准确性而学习分组，从而减少 ML 模型在特定人群中的偏见和歧视，并在各种数据集上实现了最新技术的改进。
machine learningfairnessgroupingoptimizationneural architecture search
发现论文，激发创造
  • 构成分类的多组公平性提高的可伸缩解决方案

    本文提出了多组多标签系统中两种简单的技术，任务超条件和组交错，以在改善公平性方面取得常数级别的进展。实验结果表明，这种提议在学术和现实环境中具有很高效的可行性。

    Jul, 2023

  • 利用多目标元模型优化机器学习中的公平性权衡

    使用多目标优化的方法直接优化错误 - 公平性权衡，并提出了一个灵活的框架来定义权重分类问题和多个代价函数，以减少优化参数，同时在真实问题中获得了更好的错误 / 公平性权衡解决方案。

    Apr, 2023

  • 超越次模性：带团体公正约束的随机集合选取统一框架

    本文提出了一种新型的随机子集选择框架，用于解决机器学习算法中存在的偏见或歧视问题，该框架结合了群体公平和最优化的因素，具有广泛的应用前景和优化效果。

    Apr, 2023

  • 隐含层次和多组学习的简单近似最优算法

    本论文研究了多组学习问题的解决结构并提供了简单和近乎最优的算法，以解决子群体的条件风险与公平性问题。

    Dec, 2021

  • 缓解联邦学习中的群体偏差：超越本地公平性

    本研究旨在探讨有关机器学习模型中特定人群或群体受到偏待的问题以及解决方法，其中我们特别研究了本地模型与全局模型之间公平性的关系，并提出了一种基于惩罚性经验损失最小化的全局公平训练算法，实验证明我们的方法在保持高准确率的同时，相比本地公平训练方法能够更有效地提升公平性。

    May, 2023

  • 公平感知的在线元学习

    提出了一种新的在线元学习算法 FFML, 该算法能够在保证分类准确性的同时，学习与公平相连的模型参数。通过在三个真实世界数据集上进行实验，得到了具有显著优越性能的结果。

    Aug, 2021

  • 降低异构设备中联邦学习的群体偏差

    我们提出了一个群体公平的联邦学习框架，旨在在保护隐私和没有资源利用开销的情况下，减少群体偏见。我们通过利用平均条件概率来计算由异构训练数据得出的跨领域群体重要性权重，使用修改的乘法权重更新方法来优化表现最差的群体的性能。此外，我们提出了正则化技术来最小化最差和最好表现群体之间的差异，同时通过阈值机制确保在减少偏见和群体表现下降之间取得平衡。我们对人类情绪识别和图像分类基准进行了评估，以评估我们的框架在实际异构环境中的公平决策能力。

    Sep, 2023

  • 低数据环境下公正主动学习

    在数据稀缺环境中，通过结合后验采样和公平分类子程序的创新主动学习框架，我们有效地提高了模型准确性并满足公平约束，证明了该方法在最大限度利用少量标注数据时的有效性，并对已有方法进行了改进。

    Dec, 2023

  • 算法决策的主动公平性

    本研究提出了一种基于主动框架的公平分类方法，通过根据不同群体或个体的需求自适应获取信息来平衡分类性能差异，证明了该方法可以显著优于基于随机化的分类器。

    Sep, 2018

  • 更公平、更准确，但为谁而做？

    该论文介绍了一种比较不同风险评估模型公平性的框架，特别关注与种族和性别的不平等问题，以预测再犯率和贷款为例进行实验。

    Jun, 2017