C-sanitized：文本涂抹和净化的隐私模型

Jun, 2014

C-sanitized：文本涂抹和净化的隐私模型

C-sanitized: a privacy model for document redaction and sanitization

David Sanchez, Montserrat Batet

TL;DR本文针对当前信息社会的敏感性信息进行隐私保护的问题，提出了一种基于数据语义和信息理论的文档信息去标识化模型，并通过多种应用案例的实证测试，证明其具备可行性和与人工操作相近的功效。

Abstract

Within the current context of Information Societies, large amounts of information are daily exchanged and/or released. The sensitive nature of much of this information causes a serious privacy threat when documents are uncontrollably made available to untrusted third parties. In such c

data protection document redaction privacy threat automated tools data semantics

发现论文，激发创造

超越特定领域的文本清洗：基于大型语言模型的零射手密封 & 替换

使用大型语言模型，我们提出了一种零偏差文本消毒技术，它能够检测和替换潜在的敏感信息，既保护隐私，又保持文本的连贯性和上下文信息，为下游任务保留数据效用。

Nov, 2023

带隐私风险指标的神经文本清洗：实证分析

文本消毒是将文档进行编码以掩盖其中所有（直接或间接的）个人标识符的任务，以掩盖所指个体的身份。本文考虑了一种两步法的文本消毒方法，并对其在最近发布的两个数据集（Text Anonymization Benchmark 和一组维基百科传记）上的实证表现进行了详细分析。

Oct, 2023

大型语言模型的知识清洗

我们探索了一种知识消毒方法，用于减轻与大型语言模型（LLMs）相关的隐私问题。我们的方法通过微调模型，在查询特定信息时，促使其生成无害回答，如 “我不知道”。实验证实，我们的简单方法不仅最小化了特定知识泄漏，还保留了 LLM 的整体性能。这两个优势加强了对提取攻击的防御，并减少了产生幻觉等有害内容的排放。

Sep, 2023

验证变压器在真实世界的医疗保健中用于电子健康记录的文本遮蔽

使用基于 Transformer 的模型 AnonCAT，在全球医疗数据中改进了患者隐私保护，通过细调和本地化实现了去标识化算法的真实世界应用蓝图。

Oct, 2023

通过自然文本清洗技术实现文本分析的差分隐私保护

本文提出了利用局部差分隐私 (DP) 对文本进行隐私保护的方法，使 BERT 自然语言处理可以进行隐私保护并保证了较高的数据效用，然而高效用并未增加推理攻击的成功率。

Jun, 2021

NAP^2：从人类学习的自然性和隐私保护文本重写基准

通过删除敏感表达和抽象敏感细节，我们使用两种常见的人类策略对敏感文本进行了清理，以保护隐私，并开发了一个文本重写的工具，展示了更自然的重写结果和隐私保护与数据效用之间的平衡。

Jun, 2024

可证明保密性的语言模型

本文介绍了一种名为 Confidentially Redacted Training（CRT）的方法，该方法涉及到对特定的隐私信息进行保密，从而在训练大型自然语言生成模型时避免意外记忆，实验证明该方法可以在保留隐私的同时保持模型的准确性。

May, 2022

语言模型维护隐私的含义是什么？

本文讨论保护自然语言隐私的技术是否足够广泛，提出现有数据保护方法不能为语言模型提供通用且有意义的隐私保护，因此应基于明确为公共使用的文本数据对语言模型进行训练。

Feb, 2022

企业级机器去学习中的数据删除

介绍了一种深度神经网络模型生命周期维护过程，使用成员推理攻击作为合规工具来减少重新训练模型的必要性并实现使用数据清除请求。

Dec, 2020

Redactor：基于数据和个性化的抵抗推理攻击的防御

研究信息泄露的问题，提出了利用针对性误导生成来强化机器学习模型对推理攻击的鲁棒性，即通过插入新数据来稀释原数据，使用多个分类器的决策边界进行概率标注。

Feb, 2022