Apr, 2023

核仿射壳机与差分隐私学习

HTML
PDF
TL;DR本研究探讨通过在再生核希尔伯特空间中利用点的仿射包作为表示数据的一种方式，不仅可以将数据空间划分为几何体来隐藏个体数据点的隐私敏感信息，同时能保留原始学习问题的结构。我们介绍了Kernel Affine Hull Machine (KAHM)的概念，并提出了一种新的生成人造数据的方法，该方法不仅保证差分隐私，而且保证KAHM建模误差不大于原始训练数据样本的误差。这种方法极大地降低了成员推理攻击风险，同时只带来了微小的准确性损失，可应用于隐私保护学习和分类。
发现论文，激发创造
  • 差分隐私经验风险最小化

    本研究提出了一个隐私保护的机器学习算法，基于差分隐私定义，首先将Dwork等人的输出扰动思想应用于ERM分类，然后通过扰动目标函数来设计一个新的objective perturbation方法，对于满足某些凸性和可微性条件的损失函数和正则化方法，我们证明了我们的算法可以保护隐私，并提供线性和非线性核的泛化界，同时我们提供了一种隐私保护的技术来调整通用机器学习算法的参数，从而为训练过程提供了端到端的隐私保证。实验结果表明，与输出扰动方法相比，我们的objective perturbation方法在处理隐私保护和学习性能间的固有权衡方面更加卓越。

    Dec, 2009

  • 大函数空间中的学习：基于隐私保护机制的支持向量机学习

    研究了隐私保护学习中可用性或风险与统计查询处理机制提供的差分隐私级别之间的权衡，提出了针对有限维特征映射和潜在无限维特征映射的两种有效机制，并利用算法稳定性证明了差分隐私，并使用正则化经验风险最小化的光滑性证明了机制的效用。

    Nov, 2009

  • 函数和函数数据的差分隐私

    利用高斯过程加噪点的方法，实现了对具有不同隐私级别的查询的差分隐私保护，可以应用于例如核密度估计，核支持向量机等在核希尔伯特空间中的函数。

    Mar, 2012

  • 迭代训练程序添加差分隐私的一般方法

    本文介绍了一种模块化方法，可以最小化对训练算法的更改，提供各种隐私机制的配置策略，并隔离和简化计算最终隐私保证的关键逻辑，以解决在隐私敏感数据集上训练机器学习模型所面临的实际挑战。

    Dec, 2018

  • Skellam机制用于差分隐私联合学习

    本研究介绍了基于两个独立的泊松随机变量之差的多维Skellam机制，可以用于分散式隐私应用及联邦学习下的安全聚合。该机制提供了与连续高斯机制相同的隐私-准确性折衷，即使精度较低也可以实现，而实现该机制只需要从泊松分布中进行取样。

    Oct, 2021

  • 基于隐私保护的联邦学习核方法

    用于水平分布数据的联邦学习方法FLAKE，可以保护机密性并高效地计算Gram矩阵，从而实现隐私保护的核方法，适用于机器学习和数据挖掘等领域。

    Jun, 2023

  • 局部敏感量化快速私有核密度估计

    研究了不同隐私保护机制，包括局部敏感量化的构造、带核的密度估计和增强隐私工具等，实现了快速，准确和隐私保护的数据操作。

    Jul, 2023

  • 高效计算私有数据的相似性

    给定一个相似度函数和一个大型高维私有数据集，输出近似表示任意查询的总和的差分隐私数据结构。在核函数和距离函数等情况下，我们的理论结果改进了先前的研究，并提供了更好的隐私-效用权衡和更快的查询时间。实验表明，基于平均相似性进行分类的简单方法比基于DP-SGD的方法更快且准确性相当。

    Mar, 2024

  • 差分隐私线性模型在高维数据上的综述

    通过综合评估不同的优化方法，本研究对高维度差分隐私线性模型的优化方法进行了广泛的回顾，并表明稳健且坐标优化的算法表现最佳，从而为未来的研究提供了重要参考。

    Apr, 2024

  • 具有差分隐私的黎曼流形上的联邦学习

    提出了一个基于Riemannian流形的差分隐私技术的私有联邦学习框架(PriRFed)，分析了隐私保证的同时确立了收敛性属性，是第一个具有隐私保证和收敛结果的基于Riemannian流形的联邦学习框架

    Apr, 2024