联邦学习中保护隐私的数据过滤的一种实用影响力近似方法

May, 2022

联邦学习中保护隐私的数据过滤的一种实用影响力近似方法

A Practical Influence Approximation for Privacy-Preserving Data Filtering in Federated Learning

Ljubomir Rokvic, Panayiotis Danassis, Boi Faltings

TL;DR本文介绍了一种基于实际影响近似（lazy influence）的数据过滤和评分技术，该技术可以实现隐私保护，并允许在许多应用中高效地过滤损坏数据，其精度高，召回率达到 90% 以上，即使在强隐私保证（ϵ≤1）的情况下，也能将损坏的数据过滤掉。

Abstract

federated learning by nature is susceptible to low-quality, corrupted, or even malicious data that can severely degrade the quality of the learned model. Traditional techniques for data valuation cannot be applied as the data is never revealed. We present a novel technique for filterin

federated learning data filtering practical influence approximation differential privacy corrupted data

发现论文，激发创造

使用影响函数奖励高质量数据

本文介绍了一种针对众包数据采集的新方案，在线性回归模型中设计了一种激励机制，旨在促使代理提供高质量数据，并证明了该方案确保了数据报告的真实性和鲁棒性，同时并对影响与总损失的差异进行了矫正，实现了有效的数据收集。

Aug, 2019

联邦学习中的数据估值与检测

使用隐私保护方法进行数据估值的联邦学习研究，借助 Wasserstein 距离提供透明数据评估和有效计算 Wasserstein barycenter 以减少对验证数据的依赖，并通过广泛的实证实验和理论分析展示了该估值指标的研究前景。

Nov, 2023

基于隐式反馈的联邦协同过滤更强隐私保护

我们提出了一个实用的联邦推荐系统，用于隐式数据下的用户级本地差分隐私，包括代理网络来减少用户跟踪表面。我们在 Movielens 数据集上进行实证研究，并在保护用户隐私的同时，实现了高命中率。

May, 2021

基于理论原则的联邦学习 —— 以平衡隐私和效用为目标

提出一个保护机制的通用学习框架，通过扭曲模型参数保护隐私，可以在联合学习中实现个性化的隐私保护与数据价值间的权衡。在理论和实验证明该算法有效，提高了隐私维护的联合学习方法。

May, 2023

面向隐私保护的联邦协作过滤个性化推荐系统

本文介绍了一个基于随机梯度方法的联邦协作过滤模型，并将其应用于用户推荐系统，旨在提高用户隐私保护，且实验表明，在联邦实现中，相较于标准实现而言，推荐系统的性能并未降低。

Jan, 2019

使用联邦学习的电影推荐隐私保护系统

本研究提出了一种基于联邦学习的电影推荐系统，采用新颖的联邦学习方案 FedQ, 通过量化和压缩阶段来保护隐私和减少通信开销，从而创建出同时保护隐私和提供个性化推荐的学习模型。

Mar, 2023

差分隐私联邦学习：服务器可信度、估计和统计推理

该研究论文探讨了分布式环境下维护隐私的差分隐私联邦学习的关键挑战，研究了在差分隐私约束下高维度估计和推断的困难，并提出了针对线性回归模型的新颖联邦估计算法和统计推断的方法。广泛的模拟实验支持了理论上的进展，强调了该方法的有效性和可靠性。

Apr, 2024

贝叶斯差分隐私下的联邦学习

本文提出采用贝叶斯差分隐私来增强联邦学习的形式化隐私保证，提出适用于联邦学习的贝叶斯隐私计算方法，并在图像分类任务上表现出明显的优势。

Nov, 2019

只分享你的表达：保证在联合学习中隐私效用权衡的改进

使用差分隐私算法减轻联邦学习中的信息泄露风险，提供共识模型的协作更新，同时允许本地个性化，以优化隐私 - 效用权衡问题，并通过实验证明，在小的隐私预算下，相比之前的方法，在图像分类任务中取得显著性能提升。

Sep, 2023

DataInf: 在经过认证的 LLMs 和扩散模型中高效估计数据影响力

我们提出了 DataInf，一种高效的影响力近似计算方法，可用于大规模生成型 AI 模型。通过利用易于计算的闭合形式表达式，DataInf 在计算和内存效率方面优于现有的影响力计算算法。我们的理论分析表明，DataInf 特别适用于 LoRA 等参数效率高的微调技术。通过系统的实证评估，我们表明 DataInf 准确地近似了影响力分数，并且比现有方法快几个数量级。在 RoBERTa-large、Llama-2-13B-chat 和 stable-diffusion-v1.5 模型的应用中，DataInf 能够比其他近似影响力分数更好地识别出影响最大的微调示例，而且可以帮助识别出错误标记的数据点。

Oct, 2023