Jun, 2023

社会公益的对手：利用对抗攻击保护个人属性隐私

PDF
TL;DR本文提出了一种名为 Adv4SG 的新型文本领域对抗性攻击方法，旨在通过一系列词汇扰动来保护社交媒体上的个人属性隐私，有效地降低基于自然语言处理技术的属性推断攻击的影响。
social mediatext dataprivacy protectionnlpadversarial attack
发现论文，激发创造
  • 抽取式对抗网络：基于高召回率的社交媒体帖子个人攻击识别解释

    通过在现有的精细硬性注意力解释结构上添加对抗性层，可以提高模型对神经文本分类器决策进行高召回解释的能力，并更好地检测社交媒体评论中的个人攻击。

    Sep, 2018

  • AttriGuard: 通过对抗式机器学习实现属性推断攻击实用防御

    该研究提出了一种新的隐私保护技术，通过使用干扰攻击来保护用户的隐私信息免遭基于机器学习分类器的信息泄露攻击，该方法有效降低了用户公开信息的隐私损失。

    May, 2018

  • 面向社会公益的对抗机器学习：将对手视为盟友

    深度神经网络（DNN）是机器学习领域最近进步的推动力，然而研究表明 DNN 易受对抗样本攻击，同时还存在嵌入偏差和难以解释的预测问题，因此建议研究者合作开发有利于社会的应用，同时阻止不利于社会的应用的开发，提供首个综述了解以 AdvML4G 为辅助工具创新利社会应用的工作领域，并回顾了其出现的动机、分类以及涉及的挑战和论文。

    Oct, 2023

  • IDT：双任务对抗攻击用于隐私保护

    本研究使用对抗攻击技术改变文本以欺骗隐私分类器，同时保持针对其他任务的分类器预测不变，提出了 IDT 方法，分析辅助及可解释模型的预测结果，以确定对于隐私任务需要改变的词汇和对于其他任务需要保留的关键词汇，实验证明 IDT 在保护隐私的同时仍保持了文本的实用性，并且在欺骗隐私分类器的任务上优于现有方法。

    Jun, 2024

  • $A^{4} NT$: 通过对神经机器翻译进行敌对训练实现作者属性匿名化

    本研究提出一种名为 Adversarial Author Attribute Anonymity Neural Translation（$A^4NT$）的自动方法，运用序列到序列的机器翻译和生成式对抗性网络相结合来混淆文本作者的属性，配合评估技术以保留输入文本的意义，以提高作者的匿名性。

    Nov, 2017

  • 识别文本分类器的对抗攻击

    本文为对文本分类器对抗攻击的取证研究提供了第一步，通过分析对抗文本来确定其创建方法，提供了一个广泛的攻击检测和标记数据集，使用该数据集开发和基准测试攻击识别的多个分类器，并展示了三类特征对这些任务的有效性。

    Jan, 2022

  • 人类直觉作为防御属性推断的手段

    评估了人们修改公开数据以保护隐私的能力，发现人们的效力不如人工智能。强调现代 AI 时代需要算法支持来保护个人信息。

    Apr, 2023

  • 图神经网络中节点属性的攻击

    通过特征基对抗攻击研究了图在现代社交媒体和学术应用中所具有的复杂网络，并侧重于决策时攻击和毒化攻击，与 Net Attack 和 Meta Attack 等现有模型不同，我们的研究专门针对节点属性。利用 Hellaswag 文本数据集和 Cora 以及 CiteSeer 图数据集进行了分析，结果发现使用投影梯度下降的决策时攻击比使用平均节点嵌入和图对比学习策略的毒化攻击更强大，这为图数据安全提供了启示，指出了图模型最脆弱的部分，从而推动了对此类攻击的更强大防御机制的开发。

    Feb, 2024

  • 通过用户的社交朋友和行为进行属性推断攻击：你就是你所交的朋友和你的行为

    我们提出了一种新的隐私攻击来推断在线社交网络用户的属性，这些攻击利用看似无害的用户信息来推断目标用户的缺失属性，我们的攻击在社交朋友和行为记录两个方面都有所得，比以往的攻击更为有效，有严重的网络隐私保护问题。

    Jun, 2016

  • Adversarial 为善？对抗式机器学习社区的价值观如何阻碍攻击的社会效益使用

    本篇论文研究了逆向机器学习的社会影响，发现大多数逆向机器学习研究者的观点和假设会导致他们难以考虑到攻击工具的社会益处和构建工具打破主流秩序。

    Jul, 2021