Mar, 2024

DataCook：用于医疗数据版权保护的反对抗示例编写

PDF
TL;DR该研究提出了一种名为 DataCook 的新方法，旨在在部署阶段保护医疗数据的版权。DataCook 通过对原始数据进行处理，使得在此处理后的数据上正常运行的模型得以开发。该方法采用了一种名为反对抗示例（AntiAdv）的机制，通过增强模型的置信度保障数据的合法性和准确性，并防止侵权行为。在 MedMNIST 数据集上进行的广泛实验表明，DataCook 可以有效达到其目标，并阻止模型在非法数据上的分析。
发现论文，激发创造
  • 对抗样本是制造强毒药的因素

    本文研究对数据进行污染的方法，发现对预先训练的模型攻击的对抗性示例比传统攻击方法更有效。在分配正确标签时，对抗性示例包含有用的语义信息，可以用于训练；否则，不能用于训练。该方法与现有方法相比显著提高了安全数据发布的效果，我们发布了毒化版本的 ImageNet（ImageNet-P）以鼓励对这种数据混淆形式的研究。

    Jun, 2021

  • 针对医学深度学习系统的对抗攻击

    本文发现对抗样本可以操纵深度学习系统在三个临床领域，建议医疗机构在部署深度学习系统时注意当前的漏洞，同时促进机器学习社区进一步研究医疗学习系统的领域特征。

    Apr, 2018

  • 在医疗领域中为可信 AI 筛选对抗性数据集

    通过构建自然对抗数据集来评估模型的鲁棒性，研究表明基于自动弱监督标注的概率标签，以及对输入数据进行对抗排序的方法在医疗和非医疗案例研究中具有高效性和统计有效性。

    Sep, 2023

  • 利用对抗样本进行偏见缓解和准确性增强

    利用对抗生成和微调的新方法来减轻计算机视觉模型中的偏见，通过使用欺骗深度神经网络但不欺骗人类的对抗图像作为反事实进行公正模型训练，通过 qualitatively 和 quantitatively 的评估证明了相比于现有方法，我们的方法实现了改进的偏见减轻和准确性。

    Apr, 2024

  • 版权检测系统的对抗攻击

    研究了目前许多机器学习模型容易被敌手通过小规模修改数据的方式进行攻击的情形，并将这一攻击方式成功应用于音乐版权检测系统，通过建立一个神经网络的方法，成功地欺骗了 AudioTag 和 YouTube 的 Content ID 等系统。该文的目的是提升人们对于此类攻击的认识，强调版权检测系统工具的重要性以及相应的攻击防护措施的意义。

    Jun, 2019

  • 对抗样本 - 现象的完整特征描述

    本研究提供了对毒瘤样本现象的完整刻画，目的在于涵盖研究领域的所有重要方面：（1）毒瘤样本存在的假设，（2）对安全性、可靠性和稳健性的影响，（3）生成和保护对抗样本的方法，（4）毒瘤样本在不同机器学习模型之间的转移能力。（5）本文提供充足的背景信息，可作为调查、教程或使用毒瘤样本进行攻击和防御的目录。

    Oct, 2018

  • 自然对抗样本

    使用对抗性过滤技术构建了两个具有挑战性的数据集，分别是 ImageNet-A 和 ImageNet-O，这两个数据集的出现使得计算机视觉模型的性能大幅下降，而现有的数据增强技术和公共训练数据集的使用带来的改进有限。

    Jul, 2019

  • 朝向准确性 - 公正性困境：基于对抗样本的数据增强用于视觉去偏差

    研究机器学习中的公平性问题和图像分类任务中的去偏见问题，通过使用对抗性样本进行训练数据增强来实现模型的准确性和公平性。

    Jul, 2020

  • 现代机器学习中的对抗样本：一次回顾

    本文对机器学习模型在视觉领域中面临的对抗性攻击和防御方法进行了广泛探讨，并讨论了不同攻击和防御方法的优点和缺点。旨在提供广泛的领域覆盖和机械进攻和防御机制的直观理解。

    Nov, 2019

  • 伦理对手：通过对抗机器学习缓解不公平现象

    提出了一个框架以减少训练数据集中不公平的代表性，其中使用两个相互操作的对手功能来提高公平性。首先，通过训练模型防止猜测受保护属性的值，同时限制效用损失，实现模型公平性优化。然后，利用对抗机器学习的规避攻击生成新的被错误分类的例子，并用于第一步模型的重新训练和改进增强模型的公平性。将这两个步骤迭代应用，直到显著提高公平性。

    May, 2020