本文着重研究了隐私预算的问题,提出了一套训练范式,通过调整噪声比例,使更多的噪声能被纳入隐私预算,从而在保护隐私和维护计算效用之间提供一种更好的平衡方案。
Oct, 2021
本文旨在探究如何使用差分隐私来训练机器学习模型,以ImageNet图像分类为例,展示如何使用方法和模型类型来让训练过程更好地进行。我们展示了一些方法,使我们能够使用DP来训练一个ResNet-18,精度为47.9%。虽然这比“朴素”的DP训练要好,但是离没有隐私的情况下的75%精度还有很大的差距。
Jan, 2022
本文主要研究采用差分隐私保护方法进行深度学习的训练,并在调优超参数以及利用一些技巧来提高信号传播和收敛速度的基础上,在图像分类任务中获得了新的最高精度,证明了采用过参数化模型的DP-SGD方法也可以实现更好的性能,这是在私有和非私有图像分类之间精度差距缩小的一个重要步骤。
Apr, 2022
本研究提出了DP-RandP方法,并从随机过程生成的图像中学习先验知识,并将这些先验知识传递给私有数据,从而提高了差分隐私随机梯度下降DP-SGD的隐私效用权衡的性能,并在CIFAR10,CIFAR100和MedMNIST数据集上实现了新的最佳准确度。
Jun, 2023
预训练的基础模型经差分隐私微调可在下游任务中实现接近非隐私分类器的准确性,并且在四个数据集中实现与非隐私技术的准确性相差不多,包括两个医学成像基准数据集。此外,我们的隐私医学分类器在不同人口群体之间没有更大的性能差异。此里程碑使得差分隐私训练成为一项实用且可靠的技术,有潜力广泛应用于敏感数据的安全机器学习训练,同时保护个人隐私。
Aug, 2023
利用不同隐私保护方法在深度神经网络上进行私密训练,以实现维度较高的数据生成,并提出统一的方法以提供系统性的派生方法,满足不同用例的需求,探讨不同方法之间的优势、限制和内在相关性以启发未来研究,并提出前进的潜在途径以推动隐私保护学习领域的发展。
Sep, 2023
DPSUR是基于选择性更新和发布的差分隐私训练框架,通过评估每次迭代的梯度并只使用导致收敛的更新,实现了比DPSGD更快的收敛速度,实验结果表明DPSUR在收敛速度和模型效用方面明显优于之前的研究成果。
Nov, 2023
通过提出DPDR(差分隐私训练框架)实现隐私保护,通过提前梯度分解和重构、保护增量信息以及更新模型来提高隐私预算的利用效率,理论分析和广泛实验表明DPDR在收敛速度和准确性上优于现有基线方法。
Jun, 2024
通过使用模拟数据来训练元学习模型,将Convolutional Conditional Neural Process (ConvCNP) 与改进的DP机制相结合,从而提供准确、良好校准的预测模型,并在非高斯数据上优于DP高斯过程(GP)基线模型。
使用差分隐私和加噪声的方法对机器学习模型进行训练,通过对模型的权重添加噪声来实现隐私和效用的平衡,并通过实验证明了该方法的有效性,为在实际场景中部署差分隐私模型提供了一种实用的替代方案。