在数字化时代，面对不断升级的隐私问题，要制定强大的策略来保护个人数据同时保持文本信息的内在价值变得非常重要。本研究全面研究了文本匿名化方法，重点关注了条件随机场（CRF）、长短期记忆（LSTM）、语言模型嵌入（ELMo）以及变形能力的 Transformer 架构。每个模型都有其独特的优势，LSTM 能够建模长期依赖关系，CRF 能够捕获单词序列之间的依赖关系，ELMo 利用深度双向语言模型提供上下文单词表示，而 Transformer 引入了自注意机制以提供增强的可扩展性。我们的研究定位于对这些模型进行比较分析，强调它们在应对文本匿名化挑战方面的协同潜力。初步结果表明，相较传统方法，CRF、LSTM 和 ELMo 单独表现更好。当与其他模型同时比较时，引入 Transformer 提供了在当代环境中实现最佳文本匿名化的更广泛视角。

May, 2024

自动化临床文本匿名化有潜力在保护患者隐私和安全的同时促进医疗数据的广泛共享，本论文提出了基于大型语言模型的新评估指标，并通过与基准技术的比较研究证明了大型语言模型在临床文本匿名化领域的可靠性，为可信的临床文本匿名化铺平了道路。

May, 2024

近期在隐私研究中，大型语言模型在推断真实世界在线文本中的个人数据方面已经达到接近人类水平的性能。在存在不断增长的模型能力的同时，现有的文本匿名化方法目前无法满足监管要求和对抗威胁。这引发了一个问题，即个人如何能够有效地在分享在线文本时保护自己的个人数据。本研究分两步回答这个问题：首先，我们提出了一个新的环境，在对抗性大型语言模型推理的情况下评估匿名化性能，从而在纠正以前的指标缺陷的同时，实现对匿名化性能的自然度量。然后，我们提出了基于大型语言模型的对抗性匿名化框架，利用大型语言模型的强大推理能力来指导我们的匿名化过程。在我们的实验评估中，我们展示了在真实世界和合成在线文本中，对抗性匿名化在结果效用和隐私方面均优于目前的工业级匿名化工具。

Feb, 2024

本文介绍了一个新的文本匿名处理方法，该方法使用 fine-tuned 变压器语言模型实现了高质量的语言输出，同时避免了匿名化方法存在的隐私保护及文本保留方面的问题。

May, 2022

探究匿名化技术对多种 NLP 任务中 ML 模型性能的影响，旨在寻找更好的匿名化技术，同时发现一些技术并不能有效避免由相似性搜索发起的重新识别攻击。

Sep, 2022

使用深度学习和变换器架构结合经典机器学习算法以检测和识别文本中的异常，将所有文本上下文转换为数字表示。

Nov, 2022

通过对三种不同方法进行深入评估，即传统的浅层学习、语言模型（LM）微调和多语言模型微调，本文对文本生成的重要性有了显著进展，尤其是在区分人类和机器生成文本方面，结果表明这些方法在性能上存在显著差异，强调了在自然语言处理领域中继续推进的重要性，为未来创造强大且具有高度辨别力的模型铺平了道路。

Nov, 2023

本研究探讨了不同的假名化技术在各种数据集和用于两种广泛使用的 NLP 任务（文本分类和摘要）的模型中的有效性，重点关注假名化技术对原始数据和模型质量之间差距的关键见解，并促进未来研究更高质量的匿名化技术，以更好地平衡数据保护和效用保护之间的权衡。其中，代码、假名化数据集和下游模型均可公开获取。

Jun, 2023

使用大型语言模型，本研究探索了替代标记符的可行性，以保护用户隐私，分析了不同方法的实验结果，在下游语言建模任务中实现了与原始数据训练相媲美的性能。

Sep, 2023

该研究通过比较分析机器学习和基于 Transformer 的方法在欺诈性文本分类中的效果，使用包含欺诈性和非欺诈性文本的标记数据集进行训练和评估，并对不同方法的性能指标进行了广泛实验比较，揭示了机器学习和基于 Transformer 的方法在欺诈性文本分类中的优势和局限性，帮助研究人员和从业者在处理欺诈内容时做出明智决策。

Aug, 2023