Feb, 2022

机器学习算法在人口统计学上的公正性

PDF
TL;DR研究俄罗斯人口数据的分类器的公平性问题，提出了使用 “特征丢弃” 来解决过程公平性，同时使用 “LIME 解释” 来评估分类器的公平性和决定敏感特征的消除，结果表明所有的模型都变得不再依赖于敏感特征，并表现出更好或没有影响的准确性。
model fairnessprocess fairnessdropout techniquesfeature dropoutclassifier's fairness
发现论文，激发创造
  • 有限人口分类标记数据下的公平机器学习

    本研究提出了一种新型的公平训练算法，该算法在尽可能保护个人隐私的情况下，避免了在机器学习模型中存在不良社会偏见的问题。实验结果显示，该算法可以有效降低社会偏见问题。

    Jun, 2021

  • 机器学习在医疗领域中公平特征选择的评估

    在普遍采用机器学习的医疗领域，自动化的社会偏见可能会加剧健康差距，我们探索了从特征选择的角度来解决算法公平性。传统的特征选择方法忽视了不同子群体之间这些因素的差异，而我们的公平特征选择方法考虑了所有人口群体的平等重要性。我们在三个公开可用的医疗数据集上测试了我们的方法，在这三个数据集上，我们观察到在公平性度量指标上的改善，同时平衡准确率仅有轻微下降。我们的方法解决了公平机器学习背景下的分配和程序公正性问题。

    Mar, 2024

  • 公正感知学习与无偏表示

    本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

    Feb, 2020

  • 机器学习技术中带有公正性的预测药物和酒精康复完成

    预测一个人是否能完成戒毒和戒酒康复计划以及出席次数，研究基于美国行为健康与心理服务管理局（SAMHSA）提供的俄克拉荷马州戒毒和戒酒康复中心的入院和出院的人口统计数据，使用二进制编码的高度分类数据，并利用各种公平性措施来减轻九个人口统计变量的偏见，通过支持向量机比较线性、多项式、Sigmoid 和径向基函数的核方法在不同参数范围内找到最佳值，然后与决策树、随机森林和神经网络等方法进行比较，使用 SMOTEN 技术均衡分类数据并对缺失数据进行插补，对九个偏见变量进行交叉整合以减轻偏见，并融合双重和三重交互作用来使用概率观察最坏情况比例的公平减轻措施，探索了二进制和多类别情景下的差异冲击、统计平等差异、条件统计平等比例、人口平等、人口平等比例、平等几率、平等几率比例、平等机会和平等机会比例。

    Apr, 2024

  • 算法公平性的因果特征选择

    本文介绍了一种使用因果干预公平性范例，通过在数据管理的集成组件中考虑公平性来识别特征以提高预测质量而不添加偏差的方法，提出了一种使用条件独立性检测的方法来确定确保干预公平的特征子集，并通过现实世界的数据集进行了详细的实证评估，证明了方法的有效性和效率。

    Jun, 2020

  • 内生行为的公平预测

    本文通过研究模型，发现在刑事司法中，平衡不同人群的类型 I 和类型 II 错误与最小化总犯罪率目标是一致的，而其他流行的公平理念则不然。

    Feb, 2020

  • 一个众包平台上的机器学习模型是否会表现出偏见？模型公正性的实证研究

    本文展示了在真实世界中基于 40 个高评分 Kaggle 模型的公平性评估及其 7 种缓解技术的实证研究。结果发现，部分优化技术会导致模型失公，尽管机器学习库中有公平控制机制，但这些机制未被记录。最佳的降低失公的方法往往存在权衡和代价.

    May, 2020

  • 组条件缺失人口的公平风险

    通过概率插值敏感特征并联合学习组条件缺失概率的变分自编码器，我们提出了公平感知分类模型，以解决隐私、法律问题和个体恐惧所导致的敏感特征全知要求的实际不可行性问题，我们的模型在图像和表格数据集上表现出较好的准确性和公平性平衡。

    Feb, 2024

  • 公正的核学习

    研究如何通过包含公平性在目标函数中来解决机器学习中涉及敏感特征的不公平性问题。提出了基于新的公平分类框架的新型公平回归和降维方法，并通过使用 Hilbert Schmidt 独立性准则作为公平项，实现了线性和非线性问题的评估。

    Oct, 2017

  • 更公平、更准确，但为谁而做？

    该论文介绍了一种比较不同风险评估模型公平性的框架，特别关注与种族和性别的不平等问题，以预测再犯率和贷款为例进行实验。

    Jun, 2017