语言理解任务中的数据隐私问题

Oct, 2020

TextHide: Tackling Data Privacy in Language Understanding Tasks

Yangsibo Huang, Zhao Song, Danqi Chen, Kai Li, Sanjeev Arora

TL;DR本研究提出了一种名为 TextHide 的方法，它可以在不影响训练效率或准确性的情况下有效地减少分布式或联邦学习中的隐私风险，通过简单地添加加密步骤来防止窃听攻击者恢复私人文本数据，该方法能够与预训练语言模型的微调框架很好地契合，并在 GLUE 基准测试中取得了良好的效果，可以有效抵御共享梯度和表示的攻击，并仅平均准确率降低了 1.9%。

Abstract

An unsolved challenge in distributed or federated learning is to effectively mitigate privacy risks without slowing down training or reducing accuracy. In this paper, we propose TextHide aiming at addressing this challenge for →

发现论文，激发创造

隐私保护BERT的自然语言理解

在自然语言理解和数据挖掘中，隐私保护仍然是一个关键的挑战。本文研究了对预先训练的语言模型应用局部差分隐私的隐私保护方法，并指出了这种方法在BERT细调中的实用性和隐私性的影响，同时提出了隐私适应性的语言模型预训练方法，可以显著提高BERT的实用性，并保持相同水平的隐私保护。本文实验和发现为未来探索隐私保护的自然语言理解提供了奠基。

Apr, 2021

通过自然文本清洗技术实现文本分析的差分隐私保护

本文提出了利用局部差分隐私(DP)对文本进行隐私保护的方法，使BERT自然语言处理可以进行隐私保护并保证了较高的数据效用，然而高效用并未增加推理攻击的成功率。

Jun, 2021

信息管理中保持语义的失真用于个人隐私保护

本研究提出了一种以语义保持的方式扭曲文本以达到保护个人隐私的方法, 实验表明该方法在数据隐私保护以及特定医疗信息管理上有着实际意义.

Jan, 2022

Decepticons：损坏变形金刚在语言模型联邦学习中侵犯隐私

提出了一种攻击机制可在Federated Learning中，通过恶意参数向量直接攻击文本应用程序，利用Transformer架构和标记嵌入技术提取标记和位置嵌入来检索高保真文本，使得历史上抵抗隐私攻击的文本Federated Learning变得比以前更加脆弱。

Jan, 2022

联邦学习语言模型中的私有文本恢复

本文介绍了一种新颖的攻击方法 FILM，用于联邦学习过程中语言模型的训练，成功恢复单句和多句的私有文本数据，并讨论了三种防御方法。

May, 2022

如何保留文本隐私：一项针对自然语言处理的深度学习隐私保护方法的系统综述

本文对2016年至2020年间发表的60种深度学习模型进行了系统综述，介绍了一种新的分类法，并讨论了隐私保护自然语言处理模型中的隐私问题。

May, 2022

预测文本语言模型的种植和减轻记忆内容

通过测试效用一系列隐私保护技术来缓解大型语言模型不经意地记忆保密训练数据的风险，实验表明，差分隐私有可靠的隐私保护效果，但是性能代价较大。

Dec, 2022

在加密文本上训练自然语言处理模型以提高隐私性

该研究提出了一种使用加密文本数据训练自然语言处理模型的方法，以解决隐私问题，并展示了加密和非加密模型在性能上的可比性。

May, 2023

隐私保护BERT语言能力的解耦

采用一系列解释技术对来自在扰动预文本上训练的BERT的内部表示进行解析，旨在在语言层面上解开差分隐私引起的失真。实验证据表明，内部表示的整体相似度显著降低。使用探测任务来解析这种不相似性，发现文本到文本的隐私处理影响了多种形式的语言能力，编码了单词的局部属性，但在编码单词串的上下文关系方面存在不足。

Oct, 2023

在联邦学习中利用语言模型的汇聚层输入：超越梯度和先验的隐私攻击

该研究通过增强攻击方法，在不同批次大小和模型上持续超越之前的最先进结果，提高文本分类任务中的隐私攻击恢复率。

Dec, 2023