Nov, 2023

以 UID 作为自动作者混淆的指标

PDF
TL;DR在这篇论文中，我们通过利用统一信息密度（UID）理论，设计了三种小说的作者模糊化方法，并通过对 50 篇人工文章和 50 篇 GPT-3 生成文章进行模糊化，观察了每种方法对误导作者识别器的效果，虽然在语义保留和意义变化方面模糊化的质量较高，但我们无法找到任何证据表明 UID 是一种可行的模糊化指标。然而，由于时限限制，我们无法测试足够多的文章样本或调整我们的作者识别器参数，以对 UID 在模糊化中作出最后结论。
anonymityautomated authorship attributorsautomated obfuscatorsauthorship obfuscation methodsuniform information density (uid) theory
发现论文，激发创造
  • GPT-who: 一种基于信息密度的机器生成文本检测器

    通过 UID 原则构建了 GPT-who 检测器，它利用 UID 特征对每个大型语言模型和人类作者的统计签名进行建模，以实现准确的作者归属。GPT-who 在四个大规模基准数据集上表现优于现有的检测器，并能够区分由非常复杂的大型语言模型生成的文本，即使上层文本无法辨别。

    Oct, 2023

  • 一个女孩有一个名字：检测作者身份的混淆

    评估了最先进的作者混淆方法的隐蔽性，并发现它们缺乏隐蔽性，因为它们以可检测的方式降低了文本平滑度。这凸显了开发更能保护寻求匿名性作者身份的隐蔽作者混淆方法的必要性。

    May, 2020

  • 一种用于语言建模的认知正则化器

    使用正则化编码的 UID 假设可以作为一种归纳偏差，用于训练语言模型，这在十种涵盖了五种语言家族的语言模型实验中体现出来，使用 UID 正则化一致地提高了语言模型的困惑度，特别是在数据量有限的情况下。此外，我们发现，UID 正则化的语言模型生成的文本具有更多的词汇多样性。

    May, 2021

  • 复仇者联盟！提高作者混淆的可迁移性

    本文研究了基于样式测量方法的作者归属问题，提出了一种基于集成学习的自动化作者混淆方法，并证明它的迁移性更佳。

    Sep, 2021

  • 对话响应中的解码算法如何分配信息？

    研究人类在对话中遵循 Uniform Information Density 原则的情况下，使用 GPT-2 在 Persona-Chat 数据集上生成响应，发现解码算法促进 Uniform Information Density 并不会生成更高质量的响应，相反，鼓励非一致性响应则是解决质量退化问题的潜在解决方案。

    Mar, 2023

  • 保持私密性：在线文本的无监督私有化

    通过强化学习，我们介绍了一种自动文本隐私保护框架，该框架通过针对大型语言模型进行微调，产生能够在保持准确性、连贯性和隐私性之间达到平衡的重写文本，并在大规模的测试集上进行了全面评估，并成功规避了多种自动化作者识别攻击。

    May, 2024

  • 重新审视一致信息密度假设

    本文研究了统一信息密度假说对于语言理解和语言可接受性的影响，使用阅读时间和可接受性数据，发现信息密度的不均匀性会降低可接受性，而统一信息密度假说可以部分解释语言压缩的趋势。

    Sep, 2021

  • 一个女孩有一个名字，它是... 对抗性作者归属破解

    对作者省略的问题提出了对抗性威胁的解决方案，该方案通过对抗式训练，在考虑到对抗训练的情况下提高了作者认证方法的鲁棒性。

    Mar, 2022

  • 探究文本熵速率不变性

    通过神经语言模型重新评估 Genzel 和 Charniak 在信息熵速率恒定性原则方面的主张，未能发现明确支持熵速率恒定性的证据，对一致信息密度假设和有效交流的语言学理论的影响进行了实验研究。

    May, 2023

  • 神经文本作者身份鉴定与混淆：数据挖掘视角

    本文综述了从数据挖掘的角度出发，针对神经文本生成中的作者归属与模糊化问题开展的最近研究，旨在理解传统作者归属与模糊化方法的局限性并探讨新的研究方向，以解决神经文本撰写人的匿名性与隐私问题。

    Oct, 2022