Feb, 2024

分布转移下的监督算法公平性：一项综述

PDF
TL;DR监督的公平感知机器学习在面临数据分布从源领域到目标领域的变化时，是一个新兴的领域，解决了在实现公正和无偏预测方面的挑战。本综述提供各种类型的分布变化的总结，并全面调查了现有方法，重点介绍了文献中常用的六种方法。此外，本综述列出了可用于经验研究的公开数据集和评估指标。我们进一步探讨了与相关研究领域的相互连接，讨论了重大挑战，并确定了未来研究的潜在方向。
发现论文，激发创造
  • 公正中心技术简报：分布偏移的定义和检测

    在机器学习任务中，分布偏移是一种常见情况，其表示训练模型使用的数据与实际应用模型的数据不同。本文旨在定义和检测教育环境中的分布偏移，关注标准预测问题，即学习一个以输入序列为输入（预测变量）X=(x_1,x_2,...,x_m) 并生成输出 Y=f (X) 的模型。

    May, 2024

  • 协变量漂移下的稳健公平性

    通过考虑协变量变化，提出了一种对于未知数据能够保持公正与性能的预测模型的方法。

    Oct, 2020

  • 在相关性转移下改进公平训练

    本文提出了一种解决模型公平性中的相关性变化问题的新颖方法，即引入相关性偏移的概念和采用预处理步骤以减少相关性偏移，并借此通过优化问题来调整数据比率，从而使得数据处理算法可以有效地提高其准确性和公平性。

    Feb, 2023

  • 领域自适应遇到个体公平，他们相处融洽

    本文论述了算法公正与数据分布的关系，即算法公正干预可以帮助机器学习模型克服数据分布的偏差，并且领域自适应方法可以减轻算法偏差。

    May, 2022

  • 分布偏移的细粒度分析

    本研究提出了一种框架来分析各种分布转移，并通过评估 19 个不同类别的方法，提供了当前最先进方法的整体分析。结果显示，与标准 ERM 基线相比，预训练和数据扩充（学习或启发式）在许多情况下都具有很大的优势，但不能很好地适应不同的数据集和转移。

    Oct, 2021

  • 背景对公正性的影响 —— 空间分布变化效应的案例研究

    本研究采用美国人口普查数据集的案例分析，阐述了数据分布偏移对模型预测性能和公平性能的影响，指出了模型部署前必须保证模型对数据分布的鲁棒性的重要性。

    Jun, 2022

  • 一种信息理论方法应对分布转换

    从信息理论的角度，本文探讨了机器学习模型在实际应用中遭遇的数据偏移问题，比较了近期领域泛化与公正分类研究中一些最有前途的目标。根据我们的理论分析和实证评估，我们得出结论，模型选择过程需要根据观察到的数据、纠正因素和数据生成过程的结构进行认真考虑的指导。

    Jun, 2021

  • 应对分布变化的稳健计算机视觉技术综述

    人工智能应用越来越受到公众的关注，然而研究者在计算机视觉模型的理论假设与实际部署时面临一种被称为分布偏移的困境。本文讨论了识别这一突出差距的重要原因，探索了分布偏移的概念及其关键意义，并对数据中心领域用于解决这些问题的技术进行了深入概述。

    Dec, 2023

  • Shifts 2.0：扩展实际分布漂移数据集

    本文扩展了 Shifts 数据集，加入了两个来源于高风险工业应用的数据集，用于探索模型的鲁棒性和不确定性估计。新数据集包括 3D 磁共振脑图像中白质多发性硬化病变的分割和船舶功耗的估计，具有普遍分布转移和严格的安全要求。

    Jun, 2022

  • 异质相似度下的监督对比学习用于分布偏移

    本文提出了一种利用监督对比学习的新型正则化方法，通过将余弦相似度扩展到更一般的相似度度量，建议在比较样本与正 / 负例子时使用不同的参数，并在此基础上提出了一种具有优势的方法，用于处理数据分布变化的问题，这种方法尤其适合使用高度代表性的模型，如神经网络。

    Apr, 2023