Jul, 2023

大语言模型时代中的被遗忘权：影响、挑战和解决方案

PDF
TL;DR利用大型语言模型开发的软件系统在实施《被遗忘权》方面面临新的挑战，本文探讨了这些挑战并提供了关于如何采取技术解决方案来实现《被遗忘权》的见解，包括机器遗忘、模型编辑和提示工程。
right to be forgottenpersonal datageneral data protection regulationlarge language modelscompliance
发现论文，激发创造
  • 被遗忘还是被公平看待：揭示机器遗忘方法的公平影响

    本文旨在研究 “被遗忘权” 对机器学习中的数据删除的影响，提出机器去学习算法用以更有效地从训练模型中删除特定数据，但该方法会从公平性的角度妥协 AI 伦理，因此我们在三个不同的删除策略下进行了实验，并发现 SISA 方法比 ORTR 和 AmnesiacML 方法更加公平，为解决软件工程的重要研究问题提供了帮助。

    Feb, 2023

  • 关于弥合解释权和被遗忘权之间差距的探讨

    研究了算法决策及数据使用的解释权和被遗忘权，并提出了解决两种权利的冲突的算法框架，该框架可以生成对于数据删除请求具有鲁棒性的解释，生成的解释可针对线性模型和某些非线性模型进行最坏情况下的数据删除请求保护，经实际数据集实验表明该框架的有效性。

    Feb, 2023

  • 使用反事实示例进行去偏机器学习

    使用机器学习技术实施被遗忘权以减轻历史行为的持久影响，但经常忽视遗忘过程中的偏见问题。本文通过分析遗忘过程的因果因素，在数据和算法两个层面上减轻偏见，并通过引入干预方法和反事实例子指导遗忘过程，实现了更好的性能评估。

    Apr, 2024

  • 贝叶斯推断遗忘

    该论文提出了一种基于贝叶斯推断的遗忘框架（BIF），旨在实现被遗忘权利。BIF 框架提供了遗忘算法，可以从学习模型中删除个别数据的影响，并且理论分析证明了算法的泛化性，实验表明了该方法的可行性。

    Jan, 2021

  • 机械心灵的永恒阳光：机器学习与被遗忘权之不可调和

    在人工智能快速发展的时代，必须意识到深度学习模型的结构和大小使得其难以像传统数据库那样删除或遗忘数据，从而探讨了机器学习和被遗忘权之间的实质差距以及其可能带来的深远影响。

    Mar, 2024

  • 机器遗忘的概率验证

    该研究提出了一种形式化框架，用于设计验证机制，以验证系统服务提供商是否遵守数据删除请求，该机制基于标准假设检验，提出了一种基于后门的验证机制，可以高度确认数据删除，即使只有 5％的用户参与验证。

    Mar, 2020

  • 联邦学习中的被遗忘权利：一种高效的快速重训练实现

    本研究旨在研究联邦学习（FL）系统中的机器非重学习问题，提出了一种快速数据淘汰方法以保护数据隐私，并在四项真实数据集上进行了测试和分析。

    Mar, 2022

  • 机器学习中的数据删除：让人工智能忘掉您

    研究了如何在不影响模型质量的情况下，有效地删除机器学习模型中的个人数据，针对 k-means 聚类模型，提出了两个可靠且高效的删除算法，平均删除效率提高了 100 倍以上。

    Jul, 2019

  • 可行解释与被遗忘权之间的权衡

    本研究探讨在数据删除请求的背景下算法回归失效的问题，理论上和经验上地分析了现有算法回归的行为，提出了一种框架可以识别关键的训练样本，当这些关键训练样本被移除时，会使大多数算法回归失效，从而对数据保护与算法可操作性提出了基本问题。

    Aug, 2022

  • 遗忘机器学习

    该研究论文详细介绍了新颁布的 GDPR 法对机器学习模型隐私保护的重要性，针对深度神经网络模型容易遭受信息泄漏攻击的问题提出了 Unlearning 和 Amnesiac Unlearning 两种数据删除方法，实验证明这两种方法可行、安全。

    Oct, 2020