可学习性锁：通过对抗可逆转换的授权学习控制

ICLRFeb, 2022

可学习性锁：通过对抗可逆转换的授权学习控制

Learnability Lock: Authorized Learnability Control Through Adversarial Invertible Transformations

Weiqi Peng, Jinghui Chen

TL;DR本研究提出了一种名为 “可学习性锁” 的新概念来控制模型在使用特定密钥的训练集时的可学习性，并提出了基于类的扰动方法来防止数据样本被机器学习模型使用，从而提高数据隐私保护。

Abstract

Owing much to the revolution of information technology, the recent progress of deep learning benefits incredibly from the vastly enhanced access to data available in various digital formats. However, in certain scenarios, people may not want their data being used for training commercia

deep learning learnability lock adversarial invertible transformation visual classification data privacy

发现论文，激发创造

非线性转换对抗无法学习的数据集

我们研究和设计了一个有效的非线性转换框架，并进行了广泛实验以证明深度神经网络可以有效地学习以往被认为是无法学习的数据 / 示例，从而提高了打破无法学习数据的能力，显示出比线性可分技术更好的性能，进一步指出现有的数据保护方法在防止未经授权的机器学习模型使用数据方面是不充分的，迫切需要开发更强大的保护机制。

Jun, 2024

学习动态转化以提高对抗迁移性能

通过学习选择最佳的变换组合以提高对抗传递能力的一种新方法，名为 Learning to Transform (L2T)，在实验中展现出优于现有方法的性能，并证实其有效性和实用意义。

May, 2024

重新思考针对深度神经网络的数据可用性攻击

本文介绍了一种优化方法，可提高可用性攻击方法的效果，减少计算时间要求，以解决商业目的的个人数据的非授权使用和私人数据的暗地收集，同时避免了当前许多攻击方法被对抗性训练所削弱的问题。

May, 2023

基于转移的对抗攻击的自适应图像转换

本文提出了一种名为自适应图片转换学习器（AITL）的新型结构，该结构将不同的图片转换操作集成到统一的框架中，进一步提高对抗样本的可转移性，实验表明该方法在 ImageNet 上的攻击成功率显著提高。

Nov, 2021

Deep-Lock：深度神经网络安全授权

本文提出了一种利用 S - 盒进行加密的轻量级密钥锁定方案 Deep-Lock，该方案可防止深度神经网络（DNN）模型的未授权使用和知识产权盗窃，并且不需要对 DNN 模型的结构和训练进行调整，具有较强的保密性和抗篡改能力。

Aug, 2020

针对迁移学习的模型倒置攻击：无需访问模型即可实现模型倒置

本文提出两种黑盒模型反演攻击方法，不需要查询学生模型，可以成功地从传统教师模型转移学习中的学生模型中恢复高度可识别的数据记录。

Mar, 2022

用对抗性样本提升模型反演攻击

本文提出了一种新的训练范式，通过引入语义损失函数和注入对抗样本来增加训练数据的多样性，从而使攻击模型在数据重建过程中更加关注原始数据的类相关部分，进而提高现有学习攻击的性能。

Jun, 2023

学习可转移攻击

本论文提出了一种学习如何生成可迁移的对抗扰动的方法，该方法结合了数据增广、模型增广和元学习算法，实验证明该方法的成功率比当前最先进的方法提高了 12.85％。

Dec, 2021

对抗攻击的可逆性

本论文探究了对抗攻击的可预测性和可逆性，提出了使用分类结果集来逆转分类器中对抗攻击效果的方法，并分析了最新对抗攻击方法对此的影响。

Jun, 2022

探索未学习的扩散模型：可转移的对抗攻击视角

針對高級文字到圖像擴散模型在身份隱私侵犯、版權侵犯和不宜上班的內容生成方面引起的安全問題，本文旨在利用對抗攻擊的可轉移性來探測黑盒情景下的不學習強健性。

Apr, 2024