CVPRDec, 2020

DISCO：深度神经网络的动态不变敏感通道混淆

PDF
TL;DR该研究提出了一种基于深度学习模型的数据剪枝方法 DISCO，能够保护个人隐私信息，并通过攻击方案的实验验证表明其有效性和实用性。
deep learningprivacydata pruningdiscoattack schemes
发现论文，激发创造
  • DISC：通过渐进式表示学习进行深度图像显著性计算

    本论文提出了一种基于深度卷积神经网络的图像显著性计算框架，用于在复杂背景下准确识别感兴趣的物体。该框架结合了粗略和精细级别的观察，通过两个堆叠的卷积神经网络建立显著性模型。经过实验证明，该框架的性能胜过其他先前方法，并且具有很好的通用性。

    Nov, 2015

  • DeepObfuscator：在智能手机上使用隐私保护对抗学习来混淆中间表示

    本文提出了一种基于对抗训练的框架 DeepObfuscator，使用专门设计的学习性混淆器来保护在移动设备上运行的深度学习模型的隐私，从而防止被攻击者利用从原始数据中提取的特征进行图像重建和私有属性推断。实验结果表明，使用该算法后，重建图像的质量明显下降，无法对人物进行重新识别，同时攻击者获得的隐私信息分类准确度也显著降低。

    Sep, 2019

  • 发现和解决：概念感知的减轻虚假相关性

    本文介绍了一种可解释的框架 Discover and Cure (DISC)， 它可以发现和治愈深度神经网络中的假关联现象，通过使用可解释的概念，该框架的使用优于现有方法，通过一个对象识别任务和皮肤病分类任务，表现出显著的泛化性和可解释性。

    May, 2023

  • DISCO 网络: DISsimilarity COefficient 网络

    本论文提出了一种新型的概率模型 ——DISsimilarity COefficient Networks（DISCO Nets），并论证了通过建立这种概率模型，在预测任务中利用深度学习方法可以更好地处理输出值的不确定性问题。

    Jun, 2016

  • DeepObfuscation：通过知识蒸馏保护卷积神经网络结构

    论文提出了深度学习模型模糊化的方法，通过模拟卷积神经网络的特征提取器使攻击者无法盗用模型设计，并采用递归模拟方法和联合训练方法训练模拟网络。最终得到的模糊化模型不会损失精度，能有效地保护深度学习模型的关键结构免遭攻击。

    Jun, 2018

  • HiDDeN: 使用深度网络隐藏数据

    文中讨论深度神经网络的鲁棒性，探索使用对抗干扰来做数据隐藏的可行性，并展示了效果竞争力强的编码技术及其在对抗干扰下的鲁棒性的改进方式。

    Jul, 2018

  • 通过限制深度神经网络的隐藏空间来进行对抗性防御

    针对深度神经网络易受对抗性攻击的问题，本文提出了一种基于特征重构的防御方法，具体来说，通过将每个类别的特征强制限制在一个凸多面体内，使得网络学习到的决策区域更加独特和远离各个类别的边界，提高了网络的鲁棒性，同时在干净图像的分类性能上不会退化。

    Apr, 2019

  • 隐私与公平：信息混淆用于本地差分隐私的公平表示学习

    通过引入信息瓶颈进行本地差分隐私的信息混淆方法，该研究旨在开发和分析一种理论框架，实现公平表示学习，并展示 LDP 随机化器在编码过程中提高公平性的能力。基于所提出的方法，我们进一步发展了一种同时实现 LDP 和公平性的变分表示编码方法，并通过广泛的实验验证了我们的理论结果，并展示了我们的方法在保持足够效用的同时能够实现 LDP 和公平性的能力。

    Feb, 2024

  • 基于深度学习的图像去混淆技术

    利用基于人工神经网络的现代图像识别方法，我们证明了可以从经过各种混淆保护的图像中恢复隐藏的信息，包括像素化、模糊和加密等技术，我们还证明通过训练人工神经网络即使这些图像被保护，也可以成功识别面部、识别物体和手写数字。

    Sep, 2016

  • 图神经网络的信息混淆

    本文提出了一种采用总变分和 Wasserstein 距离进行敌对训练以本地过滤敏感属性的框架，从而增强对推断攻击的防御能力。实验证实，该方法在各种图结构和任务下均提供了强大的防御，并产生了适用于下游任务的竞争性 GNN 编码器。

    Sep, 2020