BriefGPT.xyz
Ask
alpha
关键词
gradient perturbation
搜索结果 - 5
在客户端差分隐私下实现更平缓的模型优化路径和更好的泛化效果的联邦学习
通过梯度扰动和局部平坦模型来提高权重扰动鲁棒性和性能,进而减少感知信息泄露,DP-FedSAM 算法在 DPFL 中达到最先进的性能。
PDF
a year ago
CVPR
差分隐私联邦学习中降低横向溢出
DP-FedSAM 是一种新的 DPFL 算法,它利用梯度扰动来减轻 DP 的负面影响,并整合 SAM 优化器来生成具有更好稳定性和权重扰动鲁棒性的本地平坦模型,从而提高性能并提供隐私保证。
PDF
a year ago
ICML
低秩再参数化实现大规模私有学习
本文提出了一种再参数化方案来解决在大型神经网络上应用差分隐私 SGD 所面临的巨大存储成本与附加噪声的问题,该方案使用梯度承载矩阵和残差权重矩阵重构每个权重矩阵,并设计了基于梯度承载矩阵上的梯度扰动算法,成功地在 BERT 模型上实现了差分
→
PDF
3 years ago
IJCAI
增强稀疏化隐私与自适应优化的联邦学习
这篇论文提出了一种新的联邦学习框架,采用随机稀疏化和梯度扰动来增强差分隐私保证,结合加速技术减少隐私代价,并利用 Renyi DP 紧密评估端到端 DP 保证。实验结果验证了该方法在隐私保证和通信效率方面的优于之前的方法。
PDF
4 years ago
IJCAI
梯度扰动在差分隐私凸优化中的价值被低估了
本文探讨梯度扰动在差分私有性上优劣的影响。我们发现在不同凸优化问题中,期望曲率可更好地决定噪声扰动的实际效果,而不是最小曲率。进一步实验表明使用高级组合方法的梯度扰动比其他扰动方法表现更好。
PDF
5 years ago
Prev
Next