ICMLJun, 2023

公平但渐进式相等的协同学习

PDF
TL;DR本篇论文主要探讨基于探索和开发的 incentivization 设计方法，处理在协作学习使用流数据时，公平性和资源分配不平衡问题。该方法确保节点仅根据其贡献程度获得奖励，并且采用渐进平等的机制，保持资源不足节点和资源充足节点的学习效果相等，其在两个真实数据场景中进行测试，证明该方法在公平性和学习表现等方面优于现有的对比基线方案。
发现论文，激发创造
  • 协作机器学习中考虑奖励机制的模型奖励

    本文提出了一种基于 Shapley 价值和信息增益的奖励方案，在注入高斯噪声时通过一个可调参数权衡公平和稳定性，以满足合作机器学习中的一些可取属性，并根据合成和真实数据集来评估其性能。

    Oct, 2020

  • 公平感知的不可知联邦学习

    本文提出了一种公平感知的不可知联邦学习框架（AgnosticFair），它使用核重新加权函数在损失函数和公平性约束中为每个训练样本分配一个重加权值，从而能够在未知测试数据上实现高精度和公正性保证。实验结果表明，在数据转移的情况下，在两个真实数据集上的效果显著。

    Oct, 2020

  • 防止演化数据流中的歧视性决策制定

    本工作提出了一种用于实时数据流的公平换衡方法 $FS^2$，并设计了一个统一的性能公平度量 FBU，用于评估和比较不同偏差缓解技术之间的效用和公平性之间的平衡。

    Feb, 2023

  • 一人一人，或者所有人一起合作：联邦学习中的均衡与最优性

    本研究提出了一种基于博弈论的框架来实现联邦学习中的合作，并考虑了代理的激励因素。通过稳定和无嫉妒均衡的概念，我们能够描述在代理有自己的学习目标和较低的样本负担时所能达到的合作状态。此外，通过比较没有考虑代理激励因素时的最优合作和考虑激励因素时的合作，我们证明了利用激励考虑的方法可以更有效地降低样本复杂度。

    Mar, 2021

  • 未知动态下的长期公平性

    本文提出了一种在在线强化学习中形式化长期公平的方法；该方法可以适应不同的控制目标，通过牺牲短期激励来推动分类器 - 人群系统朝着更理想的均衡状态发展，从而在损失和公平违规之间实现同时概率边界的算法。

    Apr, 2023

  • 合作学习和优化中激励竞争者诚实行为的研究

    本研究通过建立一个模型，并且研究了两个学习任务，即平均值估计和强凸目标的多轮 SGD，提出了一种可以激励诚实通信并确保学习质量的机制，以便对抗具有不诚实更新倾向的竞争者。我们最后在标准非凸联合学习基准测试上验证了我们机制的有效性，并证明了对于协作学习，明确建模不诚实客户的激励和行为可以提供强大的鲁棒性保证。

    May, 2023

  • 公平徵询的算法框架

    介绍了一种框架，在该框架中，可以将成对的个体标识为需要（大约）相等的待遇。我们引入了一种算法，可以在满足预设的公平性约束条件下学习最准确的模型，并证明了其准确性和公平性的泛化界限。该算法还可以将传统的统计公平概念与 elicited constraints 相结合，从而通过前者 “纠正” 或修改后者。我们使用在 COMPAS 犯罪再犯率数据集上 elicited 的 human-subject 公平性约束条件的行为学研究报告了初步结果。

    May, 2019

  • 联邦学习中的协作公平性

    研究分布式和联邦学习的合作公平性问题，提出了一种新的协作公平联邦学习框架，利用声誉来强制不同参与者收敛于不同模型，从而在不损害预测性能的情况下实现公平。

    Aug, 2020

  • 通过激励机制实现公平图谱联合学习

    图形联邦学习中的激励机制和公平性评估函数，以及模式原型的应用，提高模型准确性和公平性。

    Dec, 2023

  • 数据复制鲁棒支付的协作机器学习市场

    本研究探讨合作机器学习市场的问题，讨论机器学习市场的公平收入分配和潜在威胁，包括数据复制。我们引入了一个新的付款分割功能和定制输出模型，以在具有不同学习任务的方的情况下刺激方提交高质量的训练和验证数据，并在实验中验证了我们理论分析的假设和这些假设的适用性。

    Nov, 2019