Mar, 2021

信用评分中的公平性：评估、实施和利润影响

PDF
TL;DR本研究探讨公平机器学习在征信评分中的应用，介绍了统计公平性准则、机器学习模型中公平性目标的算法选择，使用实际数据实证比较了不同的公平性处理器，发现多种公平性准则可以同时得到满足，提出分离度作为评估公平性的准则，证明了公平性处理器能在利润与公平性中找到一个良好的折中点，可以以较低的成本将算法歧视降低到合理的水平。
fair machine learningcredit scoringalgorithmic optionsfairness goalsprofit-fairness trade-off
发现论文，激发创造
  • 公平信貸評分的算法決策方法

    本研究探讨了 12 种顶级的偏差缓解方法，讨论其性能，基于 5 种不同的公平度量标准、实现的准确性和金融机构的潜在利润。我们的研究结果表明，在保留准确性和利润的前提下实现公平存在困难，同时突出了一些最佳和最差的表现，并有助于实验机器学习和其工业应用之间的联系。

    Sep, 2022

  • 一个众包平台上的机器学习模型是否会表现出偏见？模型公正性的实证研究

    本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

    May, 2020

  • 针对监督学习模型的个体不公平性识别、测量和缓解以及其在信用风险模型中的应用

    本文旨在通过实现一个两步训练过程来识别和减轻个人不公平，并利用最近在此领域发表的一些技术，特别是在信贷审批用例中适用的技术。我们还调查了实现个人公平性的技术在实现团体公平性方面的有效程度以及提出了第二度量标准来确定模型如何公平地处理类似的个体，最后呈现了一些与个人不公平减轻技术相关的实验结果。

    Nov, 2022

  • 将公平原则付诸实践：挑战、度量和改进

    本文研究算法公平性在机器学习中的应用，并提出了衡量和解决算法公平性问题的新方法，包括公平性指标和模型训练优化。

    Jan, 2019

  • 公平且无偏的算法决策制定：现状与未来挑战

    机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

    Jan, 2019

  • 公平感知在线个性化

    本文针对在线个性化设置中排名的公平性问题，从公平的机器学习模型开始，探讨了在线个性化如何导致模型不公平，并提出了一种基于正则化的方法来缓解机器学习中的偏差。

    Jul, 2020

  • 算法公正性

    本文概述了在使用人工智能算法时如何识别、测量和提高算法公正性的主要概念，并讨论了算法偏见和不公正的原因、公正的常见定义和度量以及预处理、处理中和后处理机制，最终回顾了几个新兴的算法公正性研究子领域。

    Jan, 2020

  • 临床风险预测公平机器学习的实证表征

    该研究探讨了使用机器学习指导临床决策可能加剧现有的健康差距问题的潜力，并分析了算法公平的适用性、技术限制以及与机器学习在医疗保健中使用相关的社会技术背景。研究结果表明，在对各组之间的预测分布差异进行惩罚的情况下，几乎所有团体内的多项绩效指标都会降低，并且算法公平性方法在消除健康差距方面仍存在许多有待解决的问题。

    Jul, 2020

  • 机器学习中促进公平的干预措施比较研究

    本篇研究通过开发公开基准来对不同的公平性增强算法进行比较，并发现许多公平性措施之间具有强烈的相关性，但这些措施也对数据集构成的波动敏感，这表明公平干预可能比以前认为的更脆弱。

    Feb, 2018

  • 公平度指标：比较分析

    该研究利用一个数学框架描述了公平性评估中一些常用的指标，探讨了它们之间的关系，为算法开发者和用户提供指导。

    Jan, 2020