Apr, 2024

隐私与可解释性之间的权衡：异常检测的差分隐私分析

PDF
TL;DR我们的研究利用可解释的人工智能（XAI）和差分隐私（DP）之间的权衡，通过 SHapley Additive exPlanations (SHAP) 和差分隐私 (DP) 进行异常检测（AD），并对不同的模型和各种数据集进行了全面评估，结果显示，隐私保护对检测准确性和可解释性有显著影响，这取决于数据集和所考虑的异常检测模型，同时我们 还发现，AD 算法的选择也会影响解释的可视化。
anomaly detectionexplainable aiprivacydifferential privacyshap
发现论文，激发创造
  • 利用差分隐私的强鲁棒性异常检测与后门攻击检测

    本篇论文提出了差分隐私可以用于改善异常检测、新奇性检测、以及背门攻击检测的效果，并通过理论分析和广泛实验验证了差分隐私在这些任务中的帮助.

    Nov, 2019

  • 一种自适应快速收敛的差分隐私深度学习方法

    本文提出了 ADADP 算法，该算法是一种自适应且具有可证明隐私保证的学习算法，通过引入自适应噪声以及自适应学习率，显著降低了隐私成本并减轻了差分隐私对模型准确性的负面影响。ADADP 在真实数据集上的实验结果表明，它在隐私成本和模型准确性方面都优于最先进的具有差分隐私的方法。

    Dec, 2019

  • 判别式对抗隐私：在神经网络中平衡准确性和成员隐私

    本文提出了一种名为 “判别性对抗隐私”（DAP）的新型学习技术，该技术通过达到模型性能、速度和隐私之间的平衡来解决 DP 的局限性。DAP 依靠对抗训练，基于一种新的损失函数，该函数能够最小化预测误差并最大化 MIA 的误差。此外，我们引入了一种名为 “准确性隐私权”（AOP）的新指标来捕捉性能 - 隐私权衡。最后，为了验证我们的观点，我们将 DAP 与不同的 DP 情景进行比较，并从性能、时间和隐私保护角度分析结果。

    Jun, 2023

  • 具有差分隐私的模型解释

    使用差分隐私机制构建基于特征的模型解释，降低解释数据隐私泄露，评估差分隐私模型及其隐私机制对模型解释质量的影响。

    Jun, 2020

  • 使用混合自动微分进行差分隐私机器学习的灵敏度分析

    介绍了一种新的混合自动微分系统，可用于推理隐私损失，并进一步开发自动灵敏度分析和隐私预算系统，在统计数据库查询和 DP 神经网络的训练中具有良好的应用前景。

    Jul, 2021

  • XRand：差分隐私防御解释引导攻击

    该研究介绍了一个叫做 XRand 的新的机制来保护基于特征的解释不被恶意利用，该机制使用局部差分隐私来限制攻击者对重要特征的了解。

    Dec, 2022

  • 超越熟悉特征的深度异常检测

    使用解释性来捕获输入空间中的新特征作为未解释的观察结果，结合相似性和新颖性的混合方法在各种异常基准上实现了强大的性能，成为多个基准的新的最先进方法，消除了昂贵的背景模型和密集匹配的需求，并对挑战性的基准上的假阴性异常减少了 40%。我们的方法为像素级异常提供可视化的检查解释。

    Oct, 2023

  • 对抗实例化：差分隐私机器学习的下界

    本文针对 DP-SGD，即差分隐私下的随机梯度下降算法，采用对手模型来探究不同的对手能力对于隐私分析的影响，并计算了隐私保护的下限。实验结果表明，现实情况下的对手能力限制显著影响了隐私的泄露程度，这说明已有理论上的隐私上限过于保守。

    Jan, 2021

  • 差分隐私：什么是所有的噪音？

    本文概述了隐私保护的形式定义 Differential Privacy 在数据处理中提供严格保证的重要思想、概念和应用，特别关注它在机器学习和联邦学习领域的交叉应用。

    May, 2022

  • 实用差分隐私的三种工具

    在实际数据中进行差分隐私学习存在挑战：隐私保证难以解释，对私有数据进行的超参数调整会降低隐私预算，通常需要进行特殊的隐私攻击来测试模型的隐私性。本文提出了三种工具来使差分隐私机器学习更加实用：（1）可在训练前以集中方式进行的简单的健全性检查，（2）自适应裁剪边界来减少可调隐私参数的有效数量，（3）大批量训练可以提高模型性能。

    Dec, 2018