Nov, 2017

$A^{4} NT$: 通过对神经机器翻译进行敌对训练实现作者属性匿名化

PDF
TL;DR本研究提出一种名为 Adversarial Author Attribute Anonymity Neural Translation（$A^4NT$）的自动方法，运用序列到序列的机器翻译和生成式对抗性网络相结合来混淆文本作者的属性，配合评估技术以保留输入文本的意义，以提高作者的匿名性。
发现论文，激发创造
  • 神经文本作者身份鉴定与混淆：数据挖掘视角

    本文综述了从数据挖掘的角度出发，针对神经文本生成中的作者归属与模糊化问题开展的最近研究，旨在理解传统作者归属与模糊化方法的局限性并探讨新的研究方向，以解决神经文本撰写人的匿名性与隐私问题。

    Oct, 2022

  • 对抗神经机器翻译

    本文研究一种新的神经机器翻译学习范式，即采用对抗训练模型进行最小化差异的方式来指导模型学习，此模型被命名为 Adversarial-NMT。实验结果表明，Adversarial-NMT 性能显著高于强基线模型，并能够实现更高质量的翻译。

    Apr, 2017

  • 社会公益的对手：利用对抗攻击保护个人属性隐私

    本文提出了一种名为 Adv4SG 的新型文本领域对抗性攻击方法，旨在通过一系列词汇扰动来保护社交媒体上的个人属性隐私，有效地降低基于自然语言处理技术的属性推断攻击的影响。

    Jun, 2023

  • 使用神经文本生成器欺骗在线作者归属模型：你是罗伯特还是罗伯塔？

    本文探讨自然语言模型在生成具有被误认为是他人所写的能力的在线文本方面的潜力，发现当前的这类技术中 GPT-2 可成功地模拟与欺骗常见的作者识别的方法，说明了这类技术的巨大潜力和其实际应用如非法信息识别和犯罪取证的重要性。

    Mar, 2022

  • AdvAug: 神经机器翻译的鲁棒对抗性增强

    本文提出了一种新的神经机器翻译对抗性数据增强方法，称之为 AdvAug，使用虚拟句子的嵌入来训练 NMT 模型，通过实验证明其取得了显著的效果提升。

    Jun, 2020

  • 一个女孩有一个名字，它是... 对抗性作者归属破解

    对作者省略的问题提出了对抗性威胁的解决方案，该方案通过对抗式训练，在考虑到对抗训练的情况下提高了作者认证方法的鲁棒性。

    Mar, 2022

  • 针对神经机器翻译的定向对抗攻击

    本文介绍了一种新的对神经机器翻译（NMT）模型的有针对性对抗攻击方法，目的是插入一个预定义的关键词到对抗性翻译中，同时保持源域中原始句子和扰动句子之间的相似性。文章提出了包括对抗损失项和相似性损失项的优化问题，并使用嵌入空间中的梯度投影来获得对抗性句子。实验结果表明，相比于 Seq2Sick 方法，本攻击方法在成功率和翻译质量降低方面表现更好，攻击成功率超过 75％，同时原始句子和扰动后的句子之间的相似性得以保持。

    Mar, 2023

  • 带增强解码器输入的非自回归神经机器翻译

    本文提出了两种增强解码器输入以提高 NAT 模型的翻译准确性的方法，并表明这些方法在 WMT14 英德任务和 WMT16 英罗马任务中比 NAT 基线高出 $5.11$ BLEU 分数和 $4.72$ BLEU 分数。

    Dec, 2018

  • IncogniText: 基于 LLM 的私密特征随机化条件文本匿名化

    我们提出了一种文本匿名化技术 IncogniText，旨在防止对手能正确猜测作者的私密属性，同时保持文本的意义和语义，经过实证评估，我们发现其能够将私密属性泄漏减少超过 90％，并将其匿名化能力转化为一组与在设备模型相关的 LoRA 参数，以展示其在现实场景中的成熟应用。

    Jul, 2024

  • 多语言机器生成文本检测中的作者混淆

    最新大型语言模型的高质量文本生成能力引起了对其滥用（例如，大规模生成 / 传播虚假信息）的关注。机器生成文本（MGT）的检测对应对此类威胁至关重要。然而，它容易受到作者身份混淆（AO）方法的影响，例如改写，这可能使 MGT 逃避检测。到目前为止，这仅在单语环境中进行了评估。因此，最近提出的多语言检测器的易受攻击性仍然未知。我们通过对 10 种知名 AO 方法的性能进行全面基准测试，攻击 37 种语言 MGT 检测方法，使用 11 种语言的 MGT 进行测试（即 10×37×11=4,070 种组合）。我们还评估了数据扩充对针对模糊文本的对抗鲁棒性的影响。结果表明，所有经过测试的 AO 方法都可以在所有经过测试的语言中导致检测逃避，其中同形异义攻击特别成功。

    Jan, 2024