Sep, 2020

少样本回归的不公平性发现和预防

PDF
TL;DR本文通過創建因果貝葉斯知識圖，對機器學習模型中的歷史數據中現有的偏見進行了發現，提出了一種新的基於風險差的算法，以量化每個受保護變量在圖中的歧視影響力，以及一種快速適應的偏差控制方法，在元學習中高效地減少了組的不公平性，最終在合成和實際數據集上進行了廣泛實驗，證明了我們提出的不公平發現和防治方法可以高效地檢測偏見並減輕模型輸出上的偏見以及對訓練樣本量少的未見任務的精度和公平度的泛化。
fairnessfew-shot learningdiscriminationmeta-learningbias-control
发现论文，激发创造
  • 通过模型和数据偏差交互理解欺诈检测中的不公平性

    机器学习算法应用广泛，但也可能存在偏见和不公平。本研究提出了一种刻画数据偏见的分类法，并探究了算法的不公平和精度之间的权衡。实证研究表明，在不同的数据偏见设置下，算法的公平性和精度会受到不同的影响，而简单的预处理干预技术可以提高算法的公平性。

    Jul, 2022

  • 具备辅助集的公平少样本学习

    最近，发展能够促进公平性的机器学习（ML）模型引起了广泛关注，即消除对特定群体（例如来自特定人口统计群体的个人）的偏见预测。本文定义了具有有限训练样本的公平感知学习任务，即 “公平少样本学习” 问题，并提出了一种新颖的框架，通过在不同的元训练任务中积累公平感知知识，然后将这些学到的知识推广到元测试任务中。此外，我们在三个真实世界数据集上进行了大量实验证明我们的框架相对于现有基线算法具有卓越的优势。

    Aug, 2023

  • 我的分类器为什么具有歧视性？

    针对敏感应用如医疗保健或刑事司法等领域，本研究旨在解决在预测模型中公平性与准确性的平衡问题，并提出，应该在数据的背景下评估预测结果的公平性，并通过数据收集来解决样本大小或未测量的预测变量所带来的不公平性，同时通过将成本基准的歧视度量分解为偏差，方差和噪音，并提出旨在估计和减少每个术语的行动。最后，本文以收入，死亡率和审查等领域的预测为案例研究，确认这种分析方法的价值，并发现数据收集通常是减少歧视而不牺牲准确性的手段。

    May, 2018

  • 公正感知学习与无偏表示

    本研究提出一种新算法，可以识别和处理潜在的歧视因素，确保机器学习模型的公平性，从而提高模型性能，实现非歧视分类和回归任务。

    Feb, 2020

  • 来自带偏见数据的公平机器学习中的残留不公平

    研究公平机器学习时，为达到公平，可以通过在不同群体之间平衡度量指标，并研究历史偏见对数据集的影响，然而在训练有偏倚策略的数据时，可能会导致调整后的预测器在目标人群中并不公平，从而引起剩余不公平。 使用样本重新加权来估算和调整公平度量标准，以制定出更公平的机器学习算法。

    Jun, 2018

  • 公正的核学习

    研究如何通过包含公平性在目标函数中来解决机器学习中涉及敏感特征的不公平性问题。提出了基于新的公平分类框架的新型公平回归和降维方法，并通过使用 Hilbert Schmidt 独立性准则作为公平项，实现了线性和非线性问题的评估。

    Oct, 2017

  • 公平无知背景下的反事实推理用于偏差评估与检测

    该研究论文探讨了即使在没有敏感特征的情况下，机器学习模型仍可能存在歧视偏见的问题，并提出了利用反事实推理揭示模型潜在偏见的方法。

    Feb, 2023

  • FairALM: 用增广 Lagrangian 方法训练公平模型，减少悔恨

    本文研究了使用公平性度量来指导模型的设计和训练的机制，提出了一种简单但可靠的方法，即在训练模型时同时实现公平，并通过详细的技术分析和实验验证了在计算机视觉训练任务中可靠地实现各种公平性度量。

    Apr, 2020

  • 监督学习中的公正性：信息论方法

    研究提出了一个信息理论框架来设计公平的预测器，以在监督学习环境中防止对指定敏感属性的歧视。使用平等的机会作为歧视标准，这要求在实际标签的条件下，预测应独立于受保护属性。同时确保公平和泛化，将数据压缩到辅助变量，再通过贝叶斯决策规则得到最终预测器。

    Jan, 2018

  • 在群体公平设置中检测敏感特征的统计学方法

    本文提出了一种基于 Hilber-Schmidt 独立性准则的预处理步骤，用于自动识别敏感特征，以解决机器学习模型在高度影响社会的决策支持系统中不公平结果的问题。我们的实验结果证明了我们的假设，并表明文献中被认为是敏感的几个特征不一定产生不公平结果。

    May, 2023