Mar, 2024
保证私有化初始化的近似最优差分隐私低秩跟踪回归
Near-Optimal differentially private low-rank trace regression with
guaranteed private initialization
TL;DR我们在高斯测量矩阵下研究具有秩-r矩阵M的隐私保护估计问题。我们从理论上精确刻画了非隐私谱初始化的敏感性，并建立了在Schatten-q范数下对M进行估计的差分隐私约束下准确的极小极限下界。在方法上，我们引入了一个计算效率高的DP初始化算法，样本量为n≥ ~O(r^2 (d_1 ∨ d_2))。在某些规则条件下，DP初始化落在包围M的局部球内。我们还提出了一个基于Riemannian优化的差分隐私算法来估计M（DP-RGrad），该算法在DP初始化和样本量为n≥ ~O(r (d_1 + d_2))时达到接近最优的收敛速率。最后，本文讨论了在迹回归模型下低秩矩阵估计的极小极限下界和上界之间的差距。实验证明，DP-RGrad给出的估计器在较弱的差分隐私概念下达到了最优的收敛速率。我们分析初始化敏感性的强大技术不需要r个非零奇异值之间的特征间隔条件。