Oct, 2022

深度学习模型架构如何影响其隐私？

PDF
TL;DR本文通过实验证明，在深度神经网络中，模型结构对于模型的隐私性具有影响，并发现激活层、干细胞层和偏置参数的微观设计是 CNN 相对于 Transformers 更健壮的主要原因，而注意力模块的存在也是 Transformers 更容易受到隐私攻击的另一个原因。
发现论文，激发创造
  • 深度学习模型中的安全与隐私挑战

    深度学习模型在多个领域取得了巨大的成功，但研究发现这些模型存在各种攻击，会危及模型的安全性和数据隐私，特别是模型抽取攻击、模型反转攻击和对抗攻击。这篇论文研究了这些攻击以及它们对深度学习模型的影响。

    Nov, 2023

  • 深度学习中的隐私：综述

    本文综述了深度学习中面临的隐私问题，以及已经提出的解决这些问题的技术，并提出了未来研究方向。

    Apr, 2020

  • 深度学习案例中用于医疗数据推理攻击模型的评估

    本文研究了深度神经网络在医疗应用中存在的隐私问题，发现攻击者可以利用属性推理攻击和模型反演攻击重建真实医学图像和临床记录，提出使用标签扰动和模型扰动等防御机制有效保护患者隐私。实验结果证明，我们的防御策略可以有效地减少医疗深度学习的隐私泄露风险。

    Oct, 2020

  • Robust or Private？对抗训练使模型更容易受到隐私攻击

    本文研究了对抗训练的对抗攻击容忍性与隐私攻击容忍性之间的关系，通过对 CIFAR-10 数据集进行三种不同类型的模型反演攻击，揭示了对抗训练模型输入空间存在的问题。

    Jun, 2019

  • 机器学习中隐私攻击调查

    对机器学习中隐私攻击的分类及防御方法进行了研究和探讨。

    Jul, 2020

  • 机器学习中的隐私风险：分析与过度拟合的关联

    本篇论文探讨了机器学习算法在敏感数据应用时对隐私的威胁，分析了过拟合和影响因素对攻击者从训练数据中提取信息的能力的影响，并研究了成员推断和属性推断之间的联系。

    Sep, 2017

  • 脑泄漏：关于神经形态结构的隐私保护特性与模型反演攻击

    通过对神经形态结构的隐私保护能力进行全面的研究，我们开发了一种新颖的反转攻击策略，与传统的人工神经网络进行比较分析，实验证明提出的攻击策略的有效性，并对神经形态结构的内隐私保护假设提出了质疑。

    Feb, 2024

  • 深度学习的全面隐私分析：针对集中式和联邦学习的被动和主动白盒推理攻击

    本文通过设计基于参数和白盒成员推理攻击算法，分别对中央化和联邦学习场景下的深度学习模型进行隐私分析，揭示了深度学习模型对训练数据隐私的泄露问题以及这一问题的原因，并展示了白盒成员推理攻击算法在 CIFAR 数据集上具体的实验效果。

    Dec, 2018

  • 机器学习模型隐私风险的系统评估

    本文研究了机器学习模型的隐私风险和成员推理攻击，提出了一种基于预测熵修改的推理攻击和一个新的隐私风险得分指标，同时对已有的防御机制进行了基准攻击，实验结果表明个体样本的隐私风险得分分布差异很大，同时确定源风险的主要因素与模型敏感性、综合误差和特征嵌入有关系。

    Mar, 2020

  • DNN 隐私泄露：模型倒置攻击和防御方法的调查

    模型反演攻击致力于利用对预训练模型的访问权限揭示关于训练数据的私密信息，这些攻击使得对与私密训练数据密切一致的高保真数据的重建成为可能，从而引发了重大的隐私担忧。尽管该领域取得了快速的进展，但我们仍然缺乏对现有模型反演攻击和防御方法的全面概述。为了填补这一空白，本文对该领域进行了深入研究，并提出了综合调查报告。首先，本文简要回顾了机器学习场景下传统的模型反演方法。然后，对多种模态和学习任务下深度神经网络 (DNNs) 的近期攻击和防御方法进行了详细分析和比较。

    Feb, 2024