Oct, 2023

转折点：现实世界中面部隐私保护的辅助信息引导生成不可学习示例

PDF
TL;DR利用多次使用的模型生成所需扰动，引入真实标签和伪标签以提高迁移性，并将扭曲层整合到训练流程中，通过实验证明所提出的 Segue 方法相比之前的方法更快（1000 倍），在不同数据集和模型架构上实现了迁移效果，并能抵抗 JPEG 压缩、对抗性训练和一些标准数据增强手法。
发现论文，激发创造
  • 无法学习的样本给人一种虚假的安全感：用可学习的样本破解无法利用的数据

    提出了一种解决目标数据未被授权使用的方法，其将无法学习的示例（UEs）添加了微不可见的扰动，以确保原始数据发布后仍无法精确分类。但是，此方法存在弊端，因为不受保护的其他数据可以用于消除保护，从而将不可学习的数据转换为可学习的数据。因此，提出了一种新的方法来解决这个问题，即通过纯化处理将 UEs 投射到 LEs 上，并使用新的联合条件扩散模型来去除 UEs 的噪音，实现对 UEs 的保护。这种方法不仅能够对有监督和无监督的 UEs 进行保护，而且还是一种通用的计数器测量方法。

    May, 2023

  • 可证明的无法学习样本

    为了保护数据隐私和知识产权，在公共可访问数据的开放共享过程中，通过引入经验证的扰动方法用于对抗未授权模型与训练时技术。本文提出了使用参数平滑参数化认证非可学习数据集的机制，以改善认证可学习性的紧密性，并设计了具备降低学习可信度的可以进行论证的不可学习示例（PUEs）的方法。实验证明，PUEs 相较于现有的 UEs 具有降低的认证可学习性和提高的经验鲁棒性。

    May, 2024

  • 无法学习的聚类：向标签无关的无法学习的实例迈进

    本文提出了一种生成不可学习样本（Unlearnable Examples）的新技术，其可在更实际的标签不一致情况下使用，并配合视觉语言预训练模型使用，具有较强的数据保护能力。

    Dec, 2022

  • 通过轮廓和纹理感知的扰动保护医学图像分割数据集免受未经授权的训练

    提出了一种名为 UMed 的非可学习医学图像生成方法，它通过注入轮廓和纹理感知的扰动来保护图像，从而仅对医学图像分割关键特征进行干扰，达到更大的隐蔽性和保护性能。

    Mar, 2024

  • 非普适例子

    通过引入一种名为 UGE 的方法，本文提出了一个保护训练过程中数据隐私的框架，其旨在在授权用户具备可学习性的同时，对潜在黑客具备不可学习性，从而确保数据的可用性和保护数据的隐私。

    Apr, 2024

  • 非线性转换对抗无法学习的数据集

    我们研究和设计了一个有效的非线性转换框架，并进行了广泛实验以证明深度神经网络可以有效地学习以往被认为是无法学习的数据 / 示例，从而提高了打破无法学习数据的能力，显示出比线性可分技术更好的性能，进一步指出现有的数据保护方法在防止未经授权的机器学习模型使用数据方面是不充分的，迫切需要开发更强大的保护机制。

    Jun, 2024

  • 通过可转移的不可学习示例实现通用的数据保护

    本篇论文介绍了一种创新的数据保护方法，通过生成可转移的数据遗忘样本，从数据分布的角度考虑数据隐私问题，经过广泛实验证实了该方法的优越性能和保护能力。

    May, 2023

  • 任何身份的生成去学习

    我们提出了一种名为 Generative Unlearning for Any Identity (GUIDE) 的新框架，在人脸等涉及隐私问题的领域中实现了生成性身份去除，并在生成机器去除任务中取得了最先进的性能。

    May, 2024

  • 使用未标记合成数据的无监督人脸识别

    本文提出了一种基于无标注的合成数据的无监督人脸识别模型 (USynthFace)，该模型使用大量的几何和颜色变换以及基于 GAN 的数据增强来训练，实现了相对较高的识别精度。

    Nov, 2022

  • 稳定的不可学习样例：通过稳定的最小化误差噪音增强不可学习样例的鲁棒性

    通过引入稳定的误差最小化噪声（SEM），我们进一步提高了无法学习示例的鲁棒性，通过针对随机扰动而不是耗时的对抗性扰动来训练防御性噪声，提高了防御性噪声的稳定性，从而在 CIFAR-10、CIFAR-100 和 ImageNet Subset 上实现了最新的性能。

    Nov, 2023