使用微分隐私技术对加性迭代算法的中间结果进行保护，避免泄露中间过程可以强化隐私保障并解决凸优化问题。

Aug, 2018

本研究针对随机凸优化问题的不同隐私算法进行了研究,通过分析算法的稳定性以确保泛化,得出了当参数的情况在实践中最为普遍时,隐私SCO的渐近收敛率与非隐私的SCO相同，即都为1/√n.

Aug, 2019

本文探讨梯度扰动在差分私有性上优劣的影响。我们发现在不同凸优化问题中，期望曲率可更好地决定噪声扰动的实际效果，而不是最小曲率。进一步实验表明使用高级组合方法的梯度扰动比其他扰动方法表现更好。

Nov, 2019

本文提出两种新的不同ially private 的方法，实现了凸优化的最优解，使用较少的梯度计算，同时需要对数据有轻度平滑性的假设。

May, 2020

本文系统研究了在不同的normed space下，拥有标准平滑性假设的Differentially private stochastic convex optimization问题，提出了新的算法并证明了其优于之前已知的算法

Mar, 2021

本文研究带有重尾数据的随机凸优化问题，并在差分隐私（DP）约束条件下进行研究。该文提出了一种新的算法用于估计重尾数据的均值，并针对凸损失函数提供了改进的上界。同时，证明了私密随机凸优化的几乎匹配下界，这表明了纯DP和集中DP之间的新分离。

Jun, 2021

我们研究了具有用户级隐私的差分隐私随机凸优化（DP-SCO），其中每个用户可能拥有多个数据项。我们开发了新算法用于用户级DP-SCO，在多项式时间内获得凸和强凸函数的最优速率，并且在维度上只要求用户数量呈对数增长。此外，我们的算法是第一个在多项式时间内获得非平滑函数最优速率的算法。这些算法基于多遍DP-SGD，结合了一种集中数据的新颖私有均值估计过程，在估计梯度的平均值之前应用了一个异常值移除步骤。

Nov, 2023

我们研究了具有重尾梯度的差分隐私随机凸优化（DP-SCO）问题，在这里我们假设样本函数的Lipschitz常数具有k次矩界而不是统一界。我们提出了一种新的基于约束的方法，使我们能够在重尾设置中获得首个最优速率（达到对数因子），在（ε，δ）-近似差分隐私下，实现误差G2⋅1/√n+Gk⋅(√d/nε)^(1-1/k)，几乎匹配于[Lowy and Razaviyayn 2023]的下界。在额外假设下，我们进一步给出了一套重尾设置的私有算法，包括在已知Lipschitz常数假设下的最优算法，平滑函数的近线性时间算法以及平滑广义线性模型的最优线性时间算法。

Jun, 2024

在集中式系统中的联邦学习（FL）中，本文解决了在受信任和不受信任服务器场景下保护隐私的挑战，分析了这种设置在随机凸优化（SCO）框架中，并设计了一种方法，以确保差分隐私（DP）同时保持同质和异质数据分布的最佳收敛速率。我们基于一种最近的随机优化技术的方法，提供了线性的计算复杂度，与非私有FL方法相当，并减少了梯度混淆。这项工作在各种服务器信任环境中平衡隐私、效率和稳健性，增强了DP在FL中的实用性。

Jul, 2024

本文研究了带噪声SGD算法在非凸非平滑损失下的差分隐私保证，填补了该领域的研究空白。通过充分利用Hölder连续梯度的条件，作者证明了收敛的R'enyi差分隐私界限，并提供了相较于已有成果更优的隐私界限。这项研究进一步展示了隐状态分析在差分隐私中的优势及其应用潜力。

Oct, 2024