May, 2022

DPSNN：差分隐私尖峰神经网络

PDF
TL;DR本研究将差分隐私算法和尖峰神经网络相结合，提出了差分隐私尖峰神经网络 (DPSNN) 来实现强隐私保护和高准确性的权衡。实验结果表明，相较于人工神经网络，DPSNN 在隐私保护方面的表现不变，在精度有所提升。
privacy-preservingspiking neural networkdifferential privacymachine learning algorithmaccuracy
发现论文，激发创造
  • PrivateSNN：保护隐私的脉冲神经网络

    本研究提出了 PrivateSNN，旨在从现有的预训练 ANN 模型中构建低功率尖峰神经网络 (SNNs)，避免数据泄露和泄露敏感信息，通过对 SNN 权重进行加密，实现有效的隐私保护与能源效率提升。

    Apr, 2021

  • DPNAS: 带有差分隐私的深度学习神经架构搜索

    本文提出 DPNAS 框架，采用神经架构搜索自动生成深度学习模型，以实现隐私保护学习，我们证明了该框架的有效性，所生成模型 DPNASNet 在隐私 / 效用权衡方面达到了最先进的表现。

    Oct, 2021

  • 保护图神经网络中的节点隐私

    差分隐私在学习表格、图像和序列数据等地方应用广泛，但在图神经网络中的节点级隐私方面仍面临挑战。本研究提出了一个解决节点级隐私问题的方案，包括异泊松采样和使用对称多元拉普拉斯噪声的随机化程序。实验证明该方案在高隐私条件下表现出显著优势，并经过隐私审计技术的验证。此外，本文还对某方法的节点级隐私保护进行了研究，发现其存在基本隐私缺陷，并证明了实现（强）隐私和（可接受的）效用是不可能的。

    Nov, 2023

  • 不是所有的噪声都是相同计算的：不同隐私学习从大样本率中受益

    本文着重研究了隐私预算的问题，提出了一套训练范式，通过调整噪声比例，使更多的噪声能被纳入隐私预算，从而在保护隐私和维护计算效用之间提供一种更好的平衡方案。

    Oct, 2021

  • 通过尺度解锁高精度差分隐私图像分类

    本文主要研究采用差分隐私保护方法进行深度学习的训练，并在调优超参数以及利用一些技巧来提高信号传播和收敛速度的基础上，在图像分类任务中获得了新的最高精度，证明了采用过参数化模型的 DP-SGD 方法也可以实现更好的性能，这是在私有和非私有图像分类之间精度差距缩小的一个重要步骤。

    Apr, 2022

  • 脑泄漏：关于神经形态结构的隐私保护特性与模型反演攻击

    通过对神经形态结构的隐私保护能力进行全面的研究，我们开发了一种新颖的反转攻击策略，与传统的人工神经网络进行比较分析，实验证明提出的攻击策略的有效性，并对神经形态结构的内隐私保护假设提出了质疑。

    Feb, 2024

  • 脉冲去噪扩散概率模型

    本文提出了一种新的基于脉冲神经网络的生成模型 ——SDDPM，通过仅使用 4 个时间步骤的纯脉冲 U-Net 体系结构，实现与其 ANN 模型的可比性能，从而充分利用脉冲神经网络的能源效率，并在 CIFAR-10 和 CelebA 数据集上实现了卓越的性能，是脉冲神经网络生成领域的重大进展。

    Jun, 2023

  • 面向差分隐私的顺序推荐：一种噪声图神经网络方法

    本文提出了一种新颖的差分隐私序列推荐框架 (DIPSGNN)，通过噪声图神经网络方法实现差分隐私保护，解决了现有差分隐私推荐系统在顺序推荐中的局限性，能够保护依赖性互动并同时捕捉用户偏好，在隐私和准确性之间取得更好的平衡。

    Sep, 2023

  • Spectral-DP: 谱扰动与过滤下的差分隐私深度学习

    基于 Spectral-DP 的差分隐私深度学习方法在训练和迁移学习设置中表现出一致更好的效果。

    Jul, 2023

  • 归一化层对深度神经网络差分隐私训练的影响

    本文研究了标准梯度下降算法的隐私保护版本 DPSGD 中归一化层的影响，证明了在带有噪声参数的深度神经网络中归一化层显著地影响着其效用，提出了一种新的方法将批归一化与 DPSGD 集成起来，以获得更好的效用 - 隐私权衡。

    Jun, 2020