Jul, 2023

迈向更好的公平性效用权衡：一种全面基于测量的强化学习框架

PDF
TL;DR提出了一种基于强化学习的 CFU（综合公平性 - 效用）框架，可以在多个公平度量方面同时改善机器学习分类器的公平性和效用。通过建立综合度量和新度量，构建了 CFU 的奖励函数，并通过广泛实验验证了其性能优于现有技术，并实现了平均 37.5% 的改进。
发现论文，激发创造
  • 利用不确定性实现公平性

    本研究提出一种旨在平衡公平性和实用性的机器学习分类任务的独特解决方案，它利用贝叶斯学习估计样本预测的不确定性，并通过不确定性量化来定义新型的公平性 - 效用目标，从而实现同时优化公平性和实用性。实证研究发现，具有低分类不确定性的样本比高不确定性的样本更准确、更公平。实验结果表明，该方法在公平性和实用性平衡方面表现优异，并有望在机器学习中实现最佳公平性和实用性。

    Apr, 2023

  • 通过强化学习实现帕累托有效的公平效用权衡推荐

    本文提出了一种基于多目标强化学习的公平感知的推荐框架（MoFIR），能够以单参数表示形式学习所有可能偏好的最优推荐策略，并在多个真实推荐数据集上的实验中验证了其在公平指标和推荐度量方面的优越性。

    Jan, 2022

  • 通过进化多目标集合学习减少不公平

    本文提出一种基于多目标进化学习框架的方法，用于优化机器学习模型的准确性和多个公平度量，并构建集合以平衡不同度量，并通过实验结果证明与其他消除不公平的方法相比，我们的算法能够为决策者提供更好的准确性和多个公平度量之间的权衡。

    Oct, 2022

  • 级联去偏：研究多项增进公平的干预的累积效应

    本研究着重探索不同阶段的机器学习管道中多个公正增强干预措施的累积效应对公正的影响，发现通过应用多个干预措施可提高公正性并降低效用度，但是增加更多的干预措施并不总是带来更好的公正性或更差的效用度，并提出了在不同公正和效用度指标下执行最佳干预组合以帮助设计公正的机器学习管道的清单。

    Feb, 2022

  • 超人公平性

    将公平性问题重新解释为一种基于超级公平性目标的模仿学习任务，以同时提高决策的准确性和公平性。

    Jan, 2023

  • 机器学习中隐私和公平性的整体调查

    隐私和公正是负责任的人工智能和可信机器学习的两个关键支柱。本文对隐私和公正在机器学习中的影响进行了综述，包括有监督学习、无监督学习、半监督学习和强化学习，并提出了同时实现这两个目标时所面临的研究挑战，特别关注大规模语言模型。

    Jul, 2023

  • 回归任务中公平度测量方法的一致性

    通过对各种回归任务进行广泛实验，本文全面研究了各种公平性度量方法的输出一致性，结果发现某些方法在特定的回归任务中表现出较差的一致性，因此需要在回归领域中采用更加原则性的方法来度量公平性。

    Jun, 2024

  • PC-Fairness: 基于因果关系公平的统一框架

    本研究提出了一种计算因果公平性的框架，其中定义了一个旨在涵盖前期因果公平概念的统一定义，并使用约束优化问题对路径特定反事实公平性进行了界定，以解决可辨识性的问题，实验表明了本方法的正确性和有效性。

    Oct, 2019

  • 公平信貸評分的算法決策方法

    本研究探讨了 12 种顶级的偏差缓解方法，讨论其性能，基于 5 种不同的公平度量标准、实现的准确性和金融机构的潜在利润。我们的研究结果表明，在保留准确性和利润的前提下实现公平存在困难，同时突出了一些最佳和最差的表现，并有助于实验机器学习和其工业应用之间的联系。

    Sep, 2022

  • CPFair：用于推荐系统的个性化消费者和生产者公平重排

    本文提出了一种基于优化的重新排序方法，该方法在联合目标框架中无缝集成了来自消费者和生产者方面的公平性约束，并经过 8 个数据集的大规模实验证明，我们的方法能够提高消费者和生产者的公平性，同时不会降低总体的推荐质量。

    Apr, 2022