AAAIFeb, 2024

ALISON: 高效快速的文体风格特征作者混淆

PDF
TL;DR现代作者指定（AA）和作者混淆（AO）是隐私研究中两个重要且竞争性的任务，为了解决现有 AA 方法引发的隐私问题，本研究提出了一个实用的 AO 方法 ALISON，通过攻击三种基于 Transformer 的 AA 方法在两个基准数据集上表现出更好的混淆效果，并且无需目标 AA 分类器的直接信号，在大幅减少训练和混淆时间的同时，保持了原始文本的意义。
authorship attributionauthorship obfuscationprivacy researchalisontransformer-based aa methods
发现论文，激发创造
  • 神经文本作者身份鉴定与混淆：数据挖掘视角

    本文综述了从数据挖掘的角度出发，针对神经文本生成中的作者归属与模糊化问题开展的最近研究，旨在理解传统作者归属与模糊化方法的局限性并探讨新的研究方向，以解决神经文本撰写人的匿名性与隐私问题。

    Oct, 2022

  • 复仇者联盟！提高作者混淆的可迁移性

    本文研究了基于样式测量方法的作者归属问题，提出了一种基于集成学习的自动化作者混淆方法，并证明它的迁移性更佳。

    Sep, 2021

  • 一个女孩有一个名字：检测作者身份的混淆

    评估了最先进的作者混淆方法的隐蔽性，并发现它们缺乏隐蔽性，因为它们以可检测的方式降低了文本平滑度。这凸显了开发更能保护寻求匿名性作者身份的隐蔽作者混淆方法的必要性。

    May, 2020

  • 多语言机器生成文本检测中的作者混淆

    最新大型语言模型的高质量文本生成能力引起了对其滥用（例如，大规模生成 / 传播虚假信息）的关注。机器生成文本（MGT）的检测对应对此类威胁至关重要。然而，它容易受到作者身份混淆（AO）方法的影响，例如改写，这可能使 MGT 逃避检测。到目前为止，这仅在单语环境中进行了评估。因此，最近提出的多语言检测器的易受攻击性仍然未知。我们通过对 10 种知名 AO 方法的性能进行全面基准测试，攻击 37 种语言 MGT 检测方法，使用 11 种语言的 MGT 进行测试（即 10×37×11=4,070 种组合）。我们还评估了数据扩充对针对模糊文本的对抗鲁棒性的影响。结果表明，所有经过测试的 AO 方法都可以在所有经过测试的语言中导致检测逃避，其中同形异义攻击特别成功。

    Jan, 2024

  • 学习文体特征表示用于作者分析

    本文提出了一种使用神经网络方法来模拟人类组合句子过程，将语言特征的不同类别合并到单词的分布式表示中，以同时学习作者文体表示的作者分析方法，提取出每个文档的话题、词汇、句法和字符级别的特征向量，实验结果表明，这种方法在作者特征化和作者验证方面具有优异的性能。

    Jun, 2016

  • 一个女孩有一个名字，它是... 对抗性作者归属破解

    对作者省略的问题提出了对抗性威胁的解决方案，该方案通过对抗式训练，在考虑到对抗训练的情况下提高了作者认证方法的鲁棒性。

    Mar, 2022

  • 保持私密性：在线文本的无监督私有化

    通过强化学习，我们介绍了一种自动文本隐私保护框架，该框架通过针对大型语言模型进行微调，产生能够在保持准确性、连贯性和隐私性之间达到平衡的重写文本，并在大规模的测试集上进行了全面评估，并成功规避了多种自动化作者识别攻击。

    May, 2024

  • 使用神经文本生成器欺骗在线作者归属模型：你是罗伯特还是罗伯塔？

    本文探讨自然语言模型在生成具有被误认为是他人所写的能力的在线文本方面的潜力，发现当前的这类技术中 GPT-2 可成功地模拟与欺骗常见的作者识别的方法，说明了这类技术的巨大潜力和其实际应用如非法信息识别和犯罪取证的重要性。

    Mar, 2022

  • DeepStyle: 短文本作者归属的用户样式嵌入

    本文提出 DeepStyle，一种基于嵌入式框架的新方法，通过学习用户突出的写作风格特征，从而解决了现存的文本分类方法在作者预测的可解释性以及使用单一特征的局限性。在 Twitter 和微博数据集的实验中，DeepStyle 显示出优于其他最先进的基线方法的性能表现。

    Mar, 2021

  • 关于作者归属与作者验证方面现有技术的状况

    该研究论文介绍了谁是这篇文章作者（AA）和作者验证（AV）这两种方法，针对 AA/AV 数据集和评估指标的标准化与基准评估并评估了八种方法，其中传统的 Ngram-based 模型在 5 个 AA 任务中表现最佳，而 BERT-based 模型则在另外两个任务和 AV 任务中表现更好。通过使用 hard-negative mining，AV 方法可以作为 AA 方法的有竞争力的替代品。

    Sep, 2022