私有协同机器学习中的激励机制

Apr, 2024

Incentives in Private Collaborative Machine Learning

Rachael Hwee Ling Sim, Yehong Zhang, Trong Nghia Hoang, Xinyi Xu, Bryan Kian Hsiang Low...

TL;DR通过差分隐私作为奖励，我们通过引入协作机器学习训练模型，对多个参与方的数据进行价值评估和奖励，并保护隐私风险。实证结果表明，我们的方法在合成和真实数据集上具有有效性和实用性。

Abstract

collaborative machine learning involves training models on data from multiple parties but must incentivize their participation. Existing data valuation methods fairly value and reward each party based on shared data or model parameters but neglect the privacy risks involved. To address

collaborative machine learning data valuation methods differential privacy bayesian surprise incentives

发现论文，激发创造

利用梯度衍生的度量对不同 ially private 训练中的数据选择和估值进行优化

研究了如何在严格保护隐私的情况下，利用梯度信息来选择有利于模型训练的数据，解决在协同训练深度学习模型中，难以区分出有用数据点的问题。

May, 2023

协作机器学习中考虑奖励机制的模型奖励

本文提出了一种基于 Shapley 价值和信息增益的奖励方案，在注入高斯噪声时通过一个可调参数权衡公平和稳定性，以满足合作机器学习中的一些可取属性，并根据合成和真实数据集来评估其性能。

Oct, 2020

机器学习的贝叶斯差分隐私

提出了基于贝叶斯的差分隐私方法，并实验表明基于样本数据分布的隐私保护方法比传统方法更实用有效。

Jan, 2019

隐私保护联邦学习的混合方法

本文提出了一种结合差分隐私和安全多方计算的联邦学习方法，在保证训练和最终模型的隐私性的同时，也能够保持较高的预测准确率，这个系统不仅能应用于多种机器学习模型的训练，而且在实验上验证了它的优越性。

Dec, 2018

多方机器学习的机制设计

该研究通过机制设计的方式探究了多方协作进行多方机器学习模型优化的问题，并提出了适用于这种情况的最优真实机制。

Jan, 2020

差分隐私深度生成模型的统一视角

利用不同隐私保护方法在深度神经网络上进行私密训练，以实现维度较高的数据生成，并提出统一的方法以提供系统性的派生方法，满足不同用例的需求，探讨不同方法之间的优势、限制和内在相关性以启发未来研究，并提出前进的潜在途径以推动隐私保护学习领域的发展。

Sep, 2023

深度学习差分隐私模型发布

提出了一种基于集中差分隐私的神经网络训练方法，通过动态隐私预算分配和新的优化技术来提高模型准确性、训练效率和隐私保护能力。

Apr, 2019

在卫生保健领域进行差分隐私预测：追踪您的长尾

本研究研究了隐私保护机制对健康医疗领域数据挖掘和机器学习的影响和局限性，旨在通过使用最新的差分隐私数据挖掘算法来训练隐私保护的模型，并对这些模型进行全面的实证研究。该研究还探讨了隐私保护学习在医疗保健中的好处和成本。

Oct, 2020

具有偏好反馈的差分隐私奖励估计

本研究探讨了在保护个体标注者隐私的同时，通过偏好反馈来估计奖励模型的问题，使用了基于参数的 Bradley-Terry-Luce (BTL) 模型，提供了关于奖励参数估计误差的上下界，以及在本地模型和中央模型下确保标签 - 隐私所需的额外成本，仿真结果验证了理论结果。

Oct, 2023

实用的、私密的协作价值确认

在使用机器学习的背景下，提出了一种基于全同态加密方案和标签差分隐私的交互式协议，确保两个参与方在合作前能得到准确的预测改进，并通过实验证明，该方案相比完全使用全同态加密操作的协议，能够获得更快的计算结果。

Oct, 2023