Aug, 2022

DP-Rewrite: 差分隐私文本重写的可重复性和透明度

HTML
PDF
TL;DR通过DP实现文本重写，为保护文本中个人隐私提供具体理论保障；为了解决现有系统的透明性和可重现性问题，提出DP-Rewrite——一个开源、模块化、可扩展、高度定制化的框架，可提供不同的数据集、模型、专家预训练过程和评价指标等，实现了私密文本重写的前沿研究。以ADePT DP文本重写系统为案例，提供了一系列实验，检测其预训练方法中的隐私泄露问题。
发现论文，激发创造
  • 当差分隐私遇上自然语言处理：魔鬼藏在细节中

    本文针对ADePT的形式化分析表明其不具备差分隐私性质，证明了实验结果缺乏可靠的支持，同时阐明了形式化保证在自然语言处理中的重要性。

    Sep, 2021

  • 重参数化技巧如何破坏不同ially-Private文本表示学习

    该研究简要分析了使用 DPText 进行文本表示学习的几篇最近的自然语言处理论文，并揭示了它们虚假的差分隐私声明。此外，还提供了一个简单而通用的经验检查来确定给定的实现是否违反了隐私损失保证，以引起人们对将差分隐私应用于文本表示学习的潜在陷阱的关注并帮助研究人员了解。

    Feb, 2022

  • 差分隐私的合成文本生成: 一个简单实用的方法

    本文讨论隐私问题在数据驱动产品和服务中引起的关注，提出了一种利用差分隐私的生成式语言模型的简单、实用和有效方法，以生成有用的合成文本同时缓解隐私问题。经过广泛的实证分析，我们证明了我们的方法产生的合成数据在实用性上与其非私有对应物相当竞争，同时提供了强大的保护措施以防止潜在的隐私泄漏。

    Oct, 2022

  • 局部差分隐私下的文本重写 DP-BART

    本研究提出了一种名为'DP-BART'的新系统，可以通过新的剪裁方法，迭代修剪和对内部表示的进一步训练，大幅减少DP维度中噪声的数量，实现了较好的效果，并在五个不同规模的文本数据集上进行了实验以及评估重写文本的下游文本分类任务，同时还详细讨论了文本重写方法及其限制。

    Feb, 2023

  • 隐私保护文本重写的敏感数据众包

    本文介绍了一种通过采用差分隐私技术以及移除个人身份信息的方法，来保护文本数据中的隐私信息，在保护隐私的同时，保证通过群体外包得到的数据质量

    Mar, 2023

  • 使用零射击启发局部差分隐私文档生成

    使用DP-Prompt及类似ChatGPT的强大语言模型在IMDB数据集上进行实验，发现其能够有效减少de-anonymization攻击成功率，并在与现有方法相比设计更简单的情况下，完全恢复了清洁情感F1分数，同时在对抗静态攻击者和自适应攻击者方面分别实现了46%和26%的减少

    Oct, 2023

  • 再简化一遍：为差分隐私重写文本提升语义相似度和隐私保护的后处理方法

    基于差分隐私的文本重写方法，通过对重写后的文本再次进行重写，提高了在经验隐私评估中的保护性能，并为恶意对手提供了额外的保护层。

    May, 2024

  • NAP^2：从人类学习的自然性和隐私保护文本重写基准

    通过删除敏感表达和抽象敏感细节，我们使用两种常见的人类策略对敏感文本进行了清理，以保护隐私，并开发了一个文本重写的工具，展示了更自然的重写结果和隐私保护与数据效用之间的平衡。

    Jun, 2024

  • DP-MLM：使用掩膜语言模型的差分隐私文本重写

    基于掩码语言模型（MLMs），提出了一种新的基于差异隐私的文本重写方法DP-MLM，能够在语义相似且混淆的方式下重写文本，对于保护隐私提供更好的实用性，并具有更大的重写机制定制化能力。

    Jun, 2024

  • 超越差分隐私框架的思考：语言模型提示下的文本隐私化案例研究

    本研究针对隐私保护自然语言处理领域中差分隐私集成技术的局限性进行了探讨，揭示了其所带来的挑战。通过关注DP-Prompt方法，本文比较了在不同场景下文本重写任务的效果，实证实验结果表明，差分隐私在自然语言处理中的可用性和优势需要进一步讨论。

    Oct, 2024