Mar, 2024

公平性的最优输运：使用小型研究数据集进行档案数据修复

PDF
TL;DR在此论文中，我们通过条件独立性定义公平性，探讨了 AI Act 和其他法规对于修复训练数据中的不公平性的迫切需求。我们通过使用仅占大规模数据一小部分比例的 S|U 标记的研究数据，设计了基于最优运输的插值曲线支撑的修复方案，以实现对非样本数据的修复，并在满足平稳性假设的前提下显著减小了 OT 方案的支撑集大小，从而大大节省了设计和顺序应用 OT 方案到非样本数据中所需的成本。通过模拟和基准真实数据（成人数据集）的详细实验结果，我们证明了对大量非样本（归档）数据的有效修复，从而抑制了条件依赖。
发现论文，激发创造
  • 通过最优输运获得二元公平性

    本文提出了一种基于最优输送理论的预处理方法，用于通过数据修复建立先贤公正，并通过条件分布对齐问题转化为等价的二元修复方案，从而为流行的链路预测任务获得公平性。此外，提出了一种名为 DyadicOT 的基于最优输送的二元公平算法，实验表明该算法相比其他公平性方法在两个基准图数据集中能够产生更好的公平性结果。

    Feb, 2022

  • 公平性对于最优传输的边缘预测

    本文主要研究了图中预测任务的算法公正问题，提出了一种嵌入不可知的修复过程以实现组内和个体的公正权衡，并在实验中验证了该方法对不同公正概念和预测准确性的显式控制能力。

    Oct, 2020

  • OTClean: 条件独立性违反数据清洗的最优输运方法

    我们介绍了一种利用最优输运理论进行条件独立性约束下数据修复的框架，并将该问题转化为正则化的优化问题，提出了一种受 Sinkhorn 算法启发的迭代算法来解决高维大规模数据的计算问题。通过广泛的实验，我们证明了该方法在实际数据清洗和预处理任务中的高效性和实用性，同时与传统方法进行了比较，突出了我们的技术在保持数据效用和确保所需条件独立性约束方面的优越性。

    Mar, 2024

  • 利用最优传输解决图像分类中的公平性和可解释性问题

    算法公平性和不公平结果的可解释性对于在医疗保健和执法等领域建立人工智能系统的信任和问责是至关重要的。我们提出了一种基于最优运输理论的全面方法，通过发现图像中有偏差区域的原因和影响来建立模型的解释性。这些发现对于开发值得信赖、公正的 AI 系统，在各个领域的决策中提供透明、问责和公平具有重要意义。

    Aug, 2023

  • 运用最优输运理论获得公平性

    本文首先介绍了统计算法在决策中的应用，提出了公平性的概念，进而研究了不同的公平性定义。特别地，文中重点研究了不平等影响和平衡误差率这两个概念，并探讨了它们之间的关系。其目的在于检测二分类规则是否缺乏公平性，同时修改输入数据以应对潜在的歧视问题。针对后者，本文利用最优传输理论对数据进行修改。

    Jun, 2018

  • 利用公平性来增强敏感属性的重建

    本篇论文提出了一种通用的重构校正方法，可以在满足用户定义的约束条件（如公平性信息）的同时最小化敌手的猜测的更改，并解决了黑盒访问目标模型的情况下反应了培训数据敏感属性的问题。

    Sep, 2022

  • 群体无差别最优输运到群体平等及其约束变体

    我们设计了一种单一的群体盲扫描映射，它使源数据中两个群体的特征分布对齐，从而实现了（人口）群体平等，而不需要在映射的计算和使用过程中提供个体样本的受保护属性的值，也不依赖受保护属性的可访问性或估计。

    Oct, 2023

  • 面向稀疏无监督恢复学习的最优传输感知算法

    本文提出一种稀疏感知的最优传输 (SOT) 准则，通过利用 OT 框架中的降级疏松性，可以在无监督的恢复学习中显着提高性能，特别是在超分辨率和去雾等任务上。实验结果表明，SOT 可以在这些任务中显著优于现有的无监督方法，接近于最优监督方法的表现。

    Apr, 2023

  • 在相关性转移下改进公平训练

    本文提出了一种解决模型公平性中的相关性变化问题的新颖方法，即引入相关性偏移的概念和采用预处理步骤以减少相关性偏移，并借此通过优化问题来调整数据比率，从而使得数据处理算法可以有效地提高其准确性和公平性。

    Feb, 2023

  • 分位数保持下的公平数据适应

    我们提出了一种基于因果结构等式模型中的分位数保持的数据适应方法，该方法具有人口公平性，并使用随机森林描述了这一方法的实施过程，以模拟和现实数据展示其实际应用。

    Nov, 2019