KDDOct, 2022

神经文本作者身份鉴定与混淆：数据挖掘视角

PDF
TL;DR本文综述了从数据挖掘的角度出发，针对神经文本生成中的作者归属与模糊化问题开展的最近研究，旨在理解传统作者归属与模糊化方法的局限性并探讨新的研究方向，以解决神经文本撰写人的匿名性与隐私问题。
authorship attributionauthorship obfuscationneural text generationdata miningprivacy
发现论文，激发创造
  • $A^{4} NT$: 通过对神经机器翻译进行敌对训练实现作者属性匿名化

    本研究提出一种名为 Adversarial Author Attribute Anonymity Neural Translation（$A^4NT$）的自动方法，运用序列到序列的机器翻译和生成式对抗性网络相结合来混淆文本作者的属性，配合评估技术以保留输入文本的意义，以提高作者的匿名性。

    Nov, 2017

  • 一个女孩有一个名字，它是... 对抗性作者归属破解

    对作者省略的问题提出了对抗性威胁的解决方案，该方案通过对抗式训练，在考虑到对抗训练的情况下提高了作者认证方法的鲁棒性。

    Mar, 2022

  • 使用神经文本生成器欺骗在线作者归属模型：你是罗伯特还是罗伯塔？

    本文探讨自然语言模型在生成具有被误认为是他人所写的能力的在线文本方面的潜力，发现当前的这类技术中 GPT-2 可成功地模拟与欺骗常见的作者识别的方法，说明了这类技术的巨大潜力和其实际应用如非法信息识别和犯罪取证的重要性。

    Mar, 2022

  • ALISON: 高效快速的文体风格特征作者混淆

    现代作者指定（AA）和作者混淆（AO）是隐私研究中两个重要且竞争性的任务，为了解决现有 AA 方法引发的隐私问题，本研究提出了一个实用的 AO 方法 ALISON，通过攻击三种基于 Transformer 的 AA 方法在两个基准数据集上表现出更好的混淆效果，并且无需目标 AA 分类器的直接信号，在大幅减少训练和混淆时间的同时，保持了原始文本的意义。

    Feb, 2024

  • 多语言机器生成文本检测中的作者混淆

    最新大型语言模型的高质量文本生成能力引起了对其滥用（例如，大规模生成 / 传播虚假信息）的关注。机器生成文本（MGT）的检测对应对此类威胁至关重要。然而，它容易受到作者身份混淆（AO）方法的影响，例如改写，这可能使 MGT 逃避检测。到目前为止，这仅在单语环境中进行了评估。因此，最近提出的多语言检测器的易受攻击性仍然未知。我们通过对 10 种知名 AO 方法的性能进行全面基准测试，攻击 37 种语言 MGT 检测方法，使用 11 种语言的 MGT 进行测试（即 10×37×11=4,070 种组合）。我们还评估了数据扩充对针对模糊文本的对抗鲁棒性的影响。结果表明，所有经过测试的 AO 方法都可以在所有经过测试的语言中导致检测逃避，其中同形异义攻击特别成功。

    Jan, 2024

  • 一个女孩有一个名字：检测作者身份的混淆

    评估了最先进的作者混淆方法的隐蔽性，并发现它们缺乏隐蔽性，因为它们以可检测的方式降低了文本平滑度。这凸显了开发更能保护寻求匿名性作者身份的隐蔽作者混淆方法的必要性。

    May, 2020

  • 大型语言模型上的神经作者归属性：风格分析

    通过实证分析大型语言模型（LLMs）的写作特征、对比专有和开源模型的异同、并探索通过语言的词汇、句法和结构方面的风格特征整合实现对 AI 生成文本的追溯，为神经网络作者归属提供经验性洞见，为应对 AI 生成的错误信息的威胁铺平道路。

    Aug, 2023

  • 保持私密性：在线文本的无监督私有化

    通过强化学习，我们介绍了一种自动文本隐私保护框架，该框架通过针对大型语言模型进行微调，产生能够在保持准确性、连贯性和隐私性之间达到平衡的重写文本，并在大规模的测试集上进行了全面评估，并成功规避了多种自动化作者识别攻击。

    May, 2024

  • 基于深度学习的双盲审稿破解：作者归属性鉴定

    该研究提出了一种基于变形金刚模型的神经网络结构，仅使用文本内容和参考文献中的作者姓名来将匿名稿件归属于作者，并创建了迄今为止最大的作者身份识别数据集，并发现了双盲审稿流程中的一些弱点，为支持公正的双盲审稿流程提供了有价值的见解。

    Nov, 2022

  • 复仇者联盟！提高作者混淆的可迁移性

    本文研究了基于样式测量方法的作者归属问题，提出了一种基于集成学习的自动化作者混淆方法，并证明它的迁移性更佳。

    Sep, 2021