Jun, 2023

通过随机投影进行快速最优局部隐私均值估计

PDF
TL;DR提出了一种新的算法框架 ProjUnit，用于保证局部隐私均值估计，该算法框架通过将随机器的输入投影到随机低维子空间并规范化结果，然后在低维空间中运行优化算法来实现计算效率高，通讯复杂度低，并且具有最优误差，同时，通过适当地对设备之间的随机投影矩阵进行相关性，可以实现快速服务器运行时间，最后，实验表明，该算法框架在保持优异的准确度的同时，具有显著较低的通讯和计算成本。
发现论文，激发创造
  • 随机分布式均值估计：准确性与通信

    本文研究如何在分布式计算环境中在通信成本约束下，适应一系列随机化算法以在预期的通信成本和估计误差之间进行权衡，实现对一组向量的平均值估计，为分布式优化和学习算法中的 reduce-all 操作提供了一种解决方案。

    Nov, 2016

  • 使用随机投影进行相关感知的稀疏均值估计

    研究了通信高效的分布式向量均值估计问题，在分布式优化和联邦学习中经常使用。通过引入 Rand-Proj-Spatial 估计器，利用交叉客户相关信息提高了通信效率，种种实验证明了其优越性。

    Oct, 2023

  • 可扩展的去中心化在线个性化均值估计算法

    该研究关注于代理人合作的均值估计问题，提出了两种协作均值估计算法，并建立了性能的理论描述和渐近最优估计条件。

    Feb, 2024

  • 高维度差分隐私估计器设计

    本研究在高维度背景下研究差分隐私的均值估计问题，通过将高维度鲁棒统计的结果应用到差分隐私中，提出了一种计算可行的算法，能够在高维度下完成差分隐私的均值估计，并且在人工合成数据集上表现出了优异的性能。

    Jun, 2020

  • 鲁棒性和差分隐私平均数估计

    对于从共享数据中进行统计学习和分析，在保证隐私和鲁棒性两个主要问题中，PRIME 是第一种同时实现了隐私性和鲁棒性的高效算法，可以应用于广泛的分布。我们还使用了一个新的指数时间算法来提高 PRIME 的样本复杂度，达到接近最优的保证，并与已知的（非鲁棒）私有均值估计的下限相匹配，说明同时保证隐私和鲁棒性不需要额外的统计代价。

    Feb, 2021

  • 有限通信下的分布式均值估计

    研究低通信成本的分布式平均估计的通信高效算法，实现数据的结构化随机旋转和编码策略，并在 k-means 和 PCA 的分布式算法中应用。

    Nov, 2016

  • 基于通信复杂度的局部隐私估计的下限

    本文为研究局部隐私约束下的估计方案制定下限，推导出了私有估计和受通信限制的估计问题之间的等价性，适用于任意交互的隐私机制，并且得出了所有不同隐私保护级别的尖锐下限。作者作为对研究结果的一个重要推论，证明了有界或高斯随机向量的均值估计的最小最大均方误差按比例缩放的结论为 $d/n * d/min (ε,ε^2)$ 。

    Feb, 2019

  • 本地化隐私高斯估计

    研究局部差分隐私在高斯分布参数估计中的应用，并给出了自适应的两轮解决方案和非自适应的一轮解决方案，并通过信息理论下界证明了准确性保证的紧密性。

    Nov, 2018

  • 联邦学习中的混合模型：隐私、通讯和准确性权衡

    为了解决联邦学习框架下传统 ERM 问题所面临的隐私保障、低带宽、动态客户端等挑战，我们开发了最优通信 - efficient 私密方案，可以使客户端参与到 ERM 的优化中，同时保证通信和隐私效果，并利用数据和客户端抽样实现隐私扩大，验证了我们的解决方案既能够获得相同的隐私、优化 - 性能操作点，又能大幅降低通信成本。

    Aug, 2020

  • 差分隐私下的最优样本均值估计

    本文提供了一种基于差分隐私的平均数估计优化方法，该方法针对实际数据处理效果较好，能够适应各种数据类型的特点，且具有较强的实例优化性能。同时，该方法还可以在本地和混洗模型下进行扩展。

    Jun, 2021