面向社会公益的对抗机器学习：将对手视为盟友

Oct, 2023

面向社会公益的对抗机器学习：将对手视为盟友

Adversarial Machine Learning for Social Good: Reframing the Adversary as an Ally

Shawqi Al-Maliki, Adnan Qayyum, Hassan Ali, Mohamed Abdallah, Junaid Qadir...

TL;DR深度神经网络（DNN）是机器学习领域最近进步的推动力，然而研究表明 DNN 易受对抗样本攻击，同时还存在嵌入偏差和难以解释的预测问题，因此建议研究者合作开发有利于社会的应用，同时阻止不利于社会的应用的开发，提供首个综述了解以 AdvML4G 为辅助工具创新利社会应用的工作领域，并回顾了其出现的动机、分类以及涉及的挑战和论文。

Abstract

deep neural networks (DNNs) have been the driving force behind many of the recent advances in machine learning. However, research has shown that DNNs are vulnerable to adversarial examples -- input samples that h

deep neural networks adversarial examples adversarial machine learning embedded bias advml4g

发现论文，激发创造

Adversarial 为善？对抗式机器学习社区的价值观如何阻碍攻击的社会效益使用

本篇论文研究了逆向机器学习的社会影响，发现大多数逆向机器学习研究者的观点和假设会导致他们难以考虑到攻击工具的社会益处和构建工具打破主流秩序。

Jul, 2021

社会公益的对手：利用对抗攻击保护个人属性隐私

本文提出了一种名为 Adv4SG 的新型文本领域对抗性攻击方法，旨在通过一系列词汇扰动来保护社交媒体上的个人属性隐私，有效地降低基于自然语言处理技术的属性推断攻击的影响。

Jun, 2023

语义对抗深度学习

本文研究了机器学习算法，特别是深度神经网络在自动驾驶汽车、金融、医疗保健、自然语言处理和恶意软件检测等领域中的应用。然而，现有的方法主要忽略了包含 ML 组件的整个系统的语义和上下文，并提出了结果，支持总体系统的规格说明在研究中发挥至关重要的作用。

Apr, 2018

制作有效的恶意软件对抗样本

应用强化学习算法生成对抗性恶意文件可以有效绕过大多数杀毒软件，揭示了基于机器学习的恶意软件检测系统易受对抗性攻击的脆弱性。

Jun, 2023

应用生成人工智能和大型语言模型的险恶行为

这篇论文讨论了生成型人工智能（GenAI）和大型语言模型（LLMs）的潜在滥用风险和社会影响，并提出了应对挑战和准备的思考。

Oct, 2023

伦理对手：通过对抗机器学习缓解不公平现象

提出了一个框架以减少训练数据集中不公平的代表性，其中使用两个相互操作的对手功能来提高公平性。首先，通过训练模型防止猜测受保护属性的值，同时限制效用损失，实现模型公平性优化。然后，利用对抗机器学习的规避攻击生成新的被错误分类的例子，并用于第一步模型的重新训练和改进增强模型的公平性。将这两个步骤迭代应用，直到显著提高公平性。

May, 2020

机器学习中安全与隐私科学的探索

ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

Nov, 2016

良性对抗攻击：欺骗模型以取得好结果

本文提出了利用对抗样本的善意攻击来探索攻击的本质并尝试解决机器学习中的对抗性问题。我们将对抗样本归因于模型和人类之间在使用非语义特征方面的差异，并针对此特性提出了三个方向的创新性应用：对抗图灵测试、拒绝恶意模型应用和对抗数据增强。

Jul, 2021

鉴定和减轻生成式人工智能的安全风险

生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

Aug, 2023

法律与对抗式机器学习

研究机器学习系统如何应对对抗性操纵时，探讨了计算机犯罪、版权和侵权法与扰动、污染、模型盗窃和模型反演攻击的接口，呼吁机器学习研究人员投资于透明的攻击和防御基准、考虑监管意识下的机器学习系统架构，并在公民自由的背景下更多思考对抗性机器学习问题。

Oct, 2018