Jul, 2024

IncogniText: 基于 LLM 的私密特征随机化条件文本匿名化

PDF
TL;DR我们提出了一种文本匿名化技术 IncogniText，旨在防止对手能正确猜测作者的私密属性，同时保持文本的意义和语义，经过实证评估，我们发现其能够将私密属性泄漏减少超过 90％，并将其匿名化能力转化为一组与在设备模型相关的 LoRA 参数，以展示其在现实场景中的成熟应用。
text anonymizationprivate attributesincognitextadversarylora parameters
发现论文，激发创造
  • 保护隐私文本匿名化的评估标准：无入侵者即无效性

    该研究探讨了文本匿名化在保护数据隐私和遵守相关法律方面的困境和挑战，并提出了一种名为 TILD 的评估标准来衡量匿名化方法的性能和信息损失，以及人类重新识别隐去文档的能力，为实现匿名化性能标准化提供了可能。

    Mar, 2021

  • 保持私密性：在线文本的无监督私有化

    通过强化学习，我们介绍了一种自动文本隐私保护框架，该框架通过针对大型语言模型进行微调，产生能够在保持准确性、连贯性和隐私性之间达到平衡的重写文本，并在大规模的测试集上进行了全面评估，并成功规避了多种自动化作者识别攻击。

    May, 2024

  • 大型语言模型是高级匿名化工具

    近期在隐私研究中，大型语言模型在推断真实世界在线文本中的个人数据方面已经达到接近人类水平的性能。在存在不断增长的模型能力的同时，现有的文本匿名化方法目前无法满足监管要求和对抗威胁。这引发了一个问题，即个人如何能够有效地在分享在线文本时保护自己的个人数据。本研究分两步回答这个问题：首先，我们提出了一个新的环境，在对抗性大型语言模型推理的情况下评估匿名化性能，从而在纠正以前的指标缺陷的同时，实现对匿名化性能的自然度量。然后，我们提出了基于大型语言模型的对抗性匿名化框架，利用大型语言模型的强大推理能力来指导我们的匿名化过程。在我们的实验评估中，我们展示了在真实世界和合成在线文本中，对抗性匿名化在结果效用和隐私方面均优于目前的工业级匿名化工具。

    Feb, 2024

  • $A^{4} NT$: 通过对神经机器翻译进行敌对训练实现作者属性匿名化

    本研究提出一种名为 Adversarial Author Attribute Anonymity Neural Translation（$A^4NT$）的自动方法，运用序列到序列的机器翻译和生成式对抗性网络相结合来混淆文本作者的属性，配合评估技术以保留输入文本的意义，以提高作者的匿名性。

    Nov, 2017

  • 基于大型语言模型的鲁棒性保持效用的文本匿名化

    提出了一个由三个基于大型语言模型组成的框架，用于对文本进行匿名化，以抵御大型语言模型的实名攻击，这些模型在保持数据隐私的情况下，提供了更大的数据实用性。

    Jul, 2024

  • 社会公益的对手：利用对抗攻击保护个人属性隐私

    本文提出了一种名为 Adv4SG 的新型文本领域对抗性攻击方法，旨在通过一系列词汇扰动来保护社交媒体上的个人属性隐私，有效地降低基于自然语言处理技术的属性推断攻击的影响。

    Jun, 2023

  • 我非我所写：隐私保护文本表示学习

    该研究提出了一种文本数据双重隐私保护表示学习框架 (DPText), 可以实现高效保护用户隐私同时保证数据在情感分析和词性标注等任务中有较高实用价值。

    Jul, 2019

  • 评估文本匿名化中的 AI 技术效果：一项比较研究

    在数字化时代，面对不断升级的隐私问题，要制定强大的策略来保护个人数据同时保持文本信息的内在价值变得非常重要。本研究全面研究了文本匿名化方法，重点关注了条件随机场（CRF）、长短期记忆（LSTM）、语言模型嵌入（ELMo）以及变形能力的 Transformer 架构。每个模型都有其独特的优势，LSTM 能够建模长期依赖关系，CRF 能够捕获单词序列之间的依赖关系，ELMo 利用深度双向语言模型提供上下文单词表示，而 Transformer 引入了自注意机制以提供增强的可扩展性。我们的研究定位于对这些模型进行比较分析，强调它们在应对文本匿名化挑战方面的协同潜力。初步结果表明，相较传统方法，CRF、LSTM 和 ELMo 单独表现更好。当与其他模型同时比较时，引入 Transformer 提供了在当代环境中实现最佳文本匿名化的更广泛视角。

    May, 2024

  • 构建稳健且保护隐私的文本表现

    本文提出了一种明确遮蔽作者特征的方法，使训练后的表示对这些属性不变，以便在两个任务中评估，表明这导致所学表示的隐私性增强，以及更强大的模型应对不同的评估条件，包括领域外语料库。

    May, 2018

  • 超越死记硬背：利用大型语言模型的推理违反隐私

    当前隐私研究主要集中在大型语言模型（LLM）提取训练数据的问题上。与此同时，模型的推论能力已大幅增强，这引发了一个关键问题：当前的 LLM 是否能通过推断来侵犯个人的隐私。在本研究中，我们提出了关于预训练 LLM 从文本中推断个人属性能力的首个全面研究。我们构建了一个由真实 Reddit 个人资料组成的数据集，并展示出当前 LLM 能够推断广泛的个人属性（如地点、收入、性别），在成本（人类所需的 1%）和时间（人类所需的 2.4%）上达到了高达 85% 的 top-1 准确率和 95.8% 的 top-3 准确率。由于人们越来越多地与 LLM 驱动的聊天机器人进行各个方面的互动，我们还探讨了通过似乎无害的问题来提取个人信息的侵犯隐私聊天机器人的新威胁。最后，我们证明了普遍采用的缓解措施，即文本匿名化和模型对齐，对于保护用户隐私免受 LLM 推断攻击是无效的。我们的研究结果表明，当前的 LLM 能够以以前无法想象的规模推断出个人数据。在缺乏有效防御措施的情况下，我们主张就 LLM 隐私影响展开更广泛的讨论，力求实现更广泛的隐私保护。

    Oct, 2023