Jun, 2024

隐形分类器：对敏感分类任务的伪姓名策略

PDF
TL;DR分享我们的指南以及我们在处理敏感 NLP 数据时遇到的挑战和结果数据集，强调在数据共享中保护隐私的重要性，并确保数据的实用性和稳健的隐私保障。
privacydata sharingradicalization datasetpseudonymizationnlp data
发现论文，激发创造
  • 基于匿名化的隐私和效用保护自然语言处理：假名化案例研究

    本研究探讨了不同的假名化技术在各种数据集和用于两种广泛使用的 NLP 任务（文本分类和摘要）的模型中的有效性，重点关注假名化技术对原始数据和模型质量之间差距的关键见解，并促进未来研究更高质量的匿名化技术，以更好地平衡数据保护和效用保护之间的权衡。其中，代码、假名化数据集和下游模型均可公开获取。

    Jun, 2023

  • 临床数据仓库中自然语言处理算法的开发和验证，用于匿名化文件

    本研究的目标是解决临床报告去识别化的问题，以允许访问数据以进行研究，同时确保患者隐私。作者通过使用深度学习模型和手动规则，对临床文件进行伪匿名化，取得了 0.99 的 F1 评分，并分享了相关代码和指南。

    Mar, 2023

  • 通过令牌操作保护分类器中的隐私

    通过文本操作的水平，我们研究了使用语言模型作为远程服务时可能避免数据暴露的前景。我们聚焦于文本分类模型，检查各种令牌映射和上下文操作函数，以确定在保持原始文本不可恢复的同时能否保持分类器准确性。我们发现，尽管有些令牌映射函数容易实现，但它们对下游任务的性能有很大影响，并且通过一个复杂的攻击者可以重建。相比之下，上下文操作提供了性能的改进。

    Jul, 2024

  • 如何保留文本隐私：一项针对自然语言处理的深度学习隐私保护方法的系统综述

    本文对 2016 年至 2020 年间发表的 60 种深度学习模型进行了系统综述，介绍了一种新的分类法，并讨论了隐私保护自然语言处理模型中的隐私问题。

    May, 2022

  • 临床文本处理中哪种匿名技术最好？──这要看任务。一项系统研究

    探究匿名化技术对多种 NLP 任务中 ML 模型性能的影响，旨在寻找更好的匿名化技术，同时发现一些技术并不能有效避免由相似性搜索发起的重新识别攻击。

    Sep, 2022

  • 分类模型中的数据痕迹：隐私问题及通过数据混淆的缓解

    AI 部署和安全隐私问题密不可分，该研究通过探索不同分类器的漏洞、减少漏洞分类器的漏洞性、研究数据混淆技术的隐私性能权衡等三个主要方面，旨在解决数据足迹带来的漏洞，提供了在不同情景和环境中选择分类器的有用结果。

    Jul, 2024

  • 大语言模型时代的隐私保护：你所写即你所是

    本文调查了一系列流行模型中预训练表示所编码的个人信息的程度，并展示了模型越复杂和数据越多，可能出现数据泄露的正相关性。作者对一种大型多语言数据集上的情感分析特征进行了广泛覆盖的比较和评估，结果表明，隐私保护方法的使用非常重要。作者还发现高度隐私保护的技术（如差分隐私）可能会对模型效用产生严重影响，可以使用混合或度量隐私方法来解决。

    Apr, 2022

  • 去标识化文本转化的隐私保证

    本文基于差分隐私原理给出了关于基于文本转换的去识别化方法的形式化隐私保证，并探究了不同的掩盖策略对与自然语言处理任务的影响。作者发现，只有通过深度学习模型进行逐字替换的方法是在多个任务中具有鲁棒性的。

    Aug, 2020

  • 隐私保护文本重写的敏感数据众包

    本文介绍了一种通过采用差分隐私技术以及移除个人身份信息的方法，来保护文本数据中的隐私信息，在保护隐私的同时，保证通过群体外包得到的数据质量

    Mar, 2023

  • 基于人工智能的匿名化：在利用机器学习时保护个人数据隐私

    人工智能的发展显著改变了人们的生活，但也对隐私和安全构成了重大威胁。因此，通过机器学习算法实现个人信息的智能保护已成为一项重要关注点。本文着重于个人数据隐私保护和匿名化的核心研究目标，通过使用机器学习的差分隐私保护算法，实现个人数据隐私保护和检测，并解决与隐私和个人数据保护相关的现有挑战，提出改进建议，分析影响数据集的因素以实现及时的个人数据隐私检测和保护。

    Feb, 2024