Feb, 2024

脑泄漏：关于神经形态结构的隐私保护特性与模型反演攻击

PDF
TL;DR通过对神经形态结构的隐私保护能力进行全面的研究，我们开发了一种新颖的反转攻击策略，与传统的人工神经网络进行比较分析，实验证明提出的攻击策略的有效性，并对神经形态结构的内隐私保护假设提出了质疑。
machine learningdata privacymodel inversion attacksneuromorphic architecturesspiking neural networks
发现论文，激发创造
  • PrivateSNN：保护隐私的脉冲神经网络

    本研究提出了 PrivateSNN，旨在从现有的预训练 ANN 模型中构建低功率尖峰神经网络 (SNNs)，避免数据泄露和泄露敏感信息，通过对 SNN 权重进行加密，实现有效的隐私保护与能源效率提升。

    Apr, 2021

  • DNN 隐私泄露：模型倒置攻击和防御方法的调查

    模型反演攻击致力于利用对预训练模型的访问权限揭示关于训练数据的私密信息，这些攻击使得对与私密训练数据密切一致的高保真数据的重建成为可能，从而引发了重大的隐私担忧。尽管该领域取得了快速的进展，但我们仍然缺乏对现有模型反演攻击和防御方法的全面概述。为了填补这一空白，本文对该领域进行了深入研究，并提出了综合调查报告。首先，本文简要回顾了机器学习场景下传统的模型反演方法。然后，对多种模态和学习任务下深度神经网络 (DNNs) 的近期攻击和防御方法进行了详细分析和比较。

    Feb, 2024

  • 反推攻击图神经网络模型

    该论文对 GNNs 进行了系统研究，提出了 GraphMI 方法用于推断私有训练数据中的离散边缘，建议更有效的隐私防御措施。

    Sep, 2022

  • 神经形态脑的数字水印技术：脉冲神经网络的知识产权保护

    该研究调查适应了两种主要的水印技术，即基于指纹和基于后门的机制，以保护专有的脉冲神经网络结构，对其保真度、抵御覆写威胁的能力和抗压缩攻击的抵抗力进行了评估，并与对应的人工神经网络进行了比较。这项研究为开发针对脉冲神经网络特殊动态的神经形态感知型知识产权保护策略奠定了基础。

    May, 2024

  • DPSNN：差分隐私尖峰神经网络

    本研究将差分隐私算法和尖峰神经网络相结合，提出了差分隐私尖峰神经网络 (DPSNN) 来实现强隐私保护和高准确性的权衡。实验结果表明，相较于人工神经网络，DPSNN 在隐私保护方面的表现不变，在精度有所提升。

    May, 2022

  • 低功耗神经形态处理硬件

    本文回顾了构建新一类仿效人脑以时间编码和处理信息的信息处理引擎所涉及的一些体系结构和系统级设计方面，以解决能效问题。

    Jan, 2019

  • GraphMI: 从图神经网络中提取私有图数据

    机器学习的广泛应用使得隐私问题变得尤为紧迫。本文提出了一种名为 Graph Model Inversion Attack (GraphMI) 的攻击方法，旨在通过反演目标模型中的 GNN，从而提取训练图的私有图数据。我们提出了投影梯度模块来解决图的离散性问题，并设计了图自编码器模块来高效利用图拓扑、节点属性和目标模型参数进行边缘推断。我们还展示了模型反演风险与边缘影响之间的联系，并在几个公共数据集上进行了广泛的实验以证明我们方法的有效性。此外，我们还表明最基本的差分隐私几乎无法保护我们的攻击同时保持良好的效用。

    Jun, 2021

  • 针对对抗扰动的强健脉冲神经网络研究

    本文提出了新的 SNN 训练方法 S-IBP 和 S-CROWN，并在不同数据集和模型结构中证明了其有效性，最大攻击错误率下降 37.7％，原始准确率下降 3.7％，这是关于 SNN 训练的首次分析。

    Apr, 2022

  • 深度学习模型架构如何影响其隐私？

    本文通过实验证明，在深度神经网络中，模型结构对于模型的隐私性具有影响，并发现激活层、干细胞层和偏置参数的微观设计是 CNN 相对于 Transformers 更健壮的主要原因，而注意力模块的存在也是 Transformers 更容易受到隐私攻击的另一个原因。

    Oct, 2022

  • CSI 神经网络：使用侧信道恢复你的人工神经网络信息

    该研究利用非侵入式的侧信道信息，针对多层感知器神经网络，研究了如何逆向工程并获取该网络的构架及权重， 并展示了恢复输入所需的可行性和应对该攻击的几种缓解方法。

    Oct, 2018