通过噪声类对抗样本实现可恢复的隐私保护图像分类

Oct, 2023

通过噪声类对抗样本实现可恢复的隐私保护图像分类

Recoverable Privacy-Preserving Image Classification through Noise-like Adversarial Examples

Jun Liu, Jiantao Zhou, Jinyu Tian, Weiwei Sun

TL;DR我们提出了一种新颖的隐私保护图像分类方案，可以通过加密图像进行分类，同时能够高保真地解密回原始图像形式，并实现了高水平的安全性。

Abstract

With the increasing prevalence of cloud computing platforms, ensuring data privacy during the cloud-based image related services such as classification has become crucial. In this study, we propose a novel privacypreserving image classification scheme that enables the direct applicatio

cloud computing data privacy image classification encryption security

发现论文，激发创造

无法察觉的人类图像，可被机器识别

本文提出了一种有效的隐私保护学习范式，通过对图像进行加密以实现人类不可察觉机器可识别，将这一方法应用于图像分类和目标检测，在 ImageNet 和 COCO 数据集上实验结果表明，这种方法可以实现与现有方法相当的准确性且能够确保加密图像的隐私安全。

Jun, 2023

考虑加密域中数据增强的基于像素图像加密的隐私保护深度神经网络

本研究提出了一种新的隐私保护深度神经网络方案，既能够在训练和测试中将缺乏视觉信息的图像应用于 DNNs，也能够首次在加密域中考虑数据增强，该方法采用了一种新的基于像素的图像加密方法，同时提出了一种适应性网络以降低图像加密的影响，并对知名的 ResNet-18 网络应用该方法进行图像分类实验，结果表明，在加密域中进行数据增强的传统隐私保护机器学习方法包括现有最先进的方法都无法应用，而所提出的方法在分类精度方面表现卓越。

May, 2019

只有我的模型与我的数据：一种保护模型并欺骗未经授权的黑盒模型的隐私保护方法

通过生成可被人类感知的图像，本研究在保护模型准确推断的同时，回避其他类似或不同目标的非授权黑盒模型，以实现实际的隐私保护。

Feb, 2024

面向隐私保护深度神经网络的图像加密方案攻击

该研究针对深度神经网络中的图像应用提出了一种加密技术，并尝试通过选择明文和密文攻击来测试其安全性。

Apr, 2020

图像超分辨率作为对抗攻击的防御

本文提出了一个有效的图像增强方法，通过深度图像恢复网络来将离散的对抗噪声样本转换回自然图像流形，从而提高对抗性的鲁棒性，同时提高图像质量和保持干净图像上的性能表现。

Jan, 2019

文本隐私保护神经表示

本文主要研究基于深度学习自然语言处理中的对抗攻击，探讨攻击者如何通过窃取神经网络文本分类器的隐藏表示来获取敏感信息，为解决此问题，文章提出并论证多个防御方案，改进神经表示的隐私保护性能。

Aug, 2018

可学习的图像加密

介绍了一种可学习的图像加密方案，用于保护图像隐私，在不侵犯隐私的前提下，通过加密的图像进行网络训练并得到验证。

Mar, 2018

使用自适应噪声降低在深度网络中检测对抗样本

该文章提出了一种直接部署到标准深度神经网络模型中的简单方法，通过引入两个经典图像处理技术，标量量化和平滑空间滤波，将图像中的扰动降低到最小，使用图像熵作为度量标准，可以有效地检测出对基于多种攻击技术的先进深度学习模型的 20,000 多个对抗样本，最终的实验结果表明，该检测方法可以取得 96.39％的高整体 F1 评分。

May, 2017

针对对抗性攻击的稳健实际图像超分辨率

研究了深度神经网络在实际图像超分辨率应用中受到敌对噪声攻击的问题，并提出一种结合频域掩模模块和敌对样本分类器的解决方案，以提高模型的稳定性和鲁棒性。

Jul, 2022

废物利用：通过对抗样本抵抗对抗样本

通过在预先训练好的外部模型上找到敌对样本，我们将有害的攻击过程转化为有用的防御机制，并且我们的防御方法比先前的方法更为强大和经济。

Nov, 2019