Feb, 2023

关于弥合解释权和被遗忘权之间差距的探讨

PDF
TL;DR研究了算法决策及数据使用的解释权和被遗忘权，并提出了解决两种权利的冲突的算法框架，该框架可以生成对于数据删除请求具有鲁棒性的解释，生成的解释可针对线性模型和某些非线性模型进行最坏情况下的数据删除请求保护，经实际数据集实验表明该框架的有效性。
right to explanationright to be forgottenalgorithmic decision makingdata usagemodel updates
发现论文，激发创造
  • 可行解释与被遗忘权之间的权衡

    本研究探讨在数据删除请求的背景下算法回归失效的问题，理论上和经验上地分析了现有算法回归的行为，提出了一种框架可以识别关键的训练样本，当这些关键训练样本被移除时，会使大多数算法回归失效，从而对数据保护与算法可操作性提出了基本问题。

    Aug, 2022

  • 算法束缚：从 “解释权” 到 “更好决策权”?

    机器学习系统中不公正和歧视的问题引起了对 “解释权” 的关注。该研究对欧洲数据保护法的规定、法国行政法和欧洲理事会 108 号公约草案中的新的解释权进行了分析。虽然个人权利在隐私法中具有一定的作用，但与之相对应的透明度似乎仅仅是治标不治本的手段，因此其他形式的治理手段如影响评估、软性法律、司法审查和模型资源库等应该得到更多的关注，同时，推动代理机构为用户控制算法系统设计也应得到重视。

    Mar, 2018

  • 机器遗忘的概率验证

    该研究提出了一种形式化框架，用于设计验证机制，以验证系统服务提供商是否遵守数据删除请求，该机制基于标准假设检验，提出了一种基于后门的验证机制，可以高度确认数据删除，即使只有 5％的用户参与验证。

    Mar, 2020

  • 贝叶斯推断遗忘

    该论文提出了一种基于贝叶斯推断的遗忘框架（BIF），旨在实现被遗忘权利。BIF 框架提供了遗忘算法，可以从学习模型中删除个别数据的影响，并且理论分析证明了算法的泛化性，实验表明了该方法的可行性。

    Jan, 2021

  • 大语言模型时代中的被遗忘权：影响、挑战和解决方案

    利用大型语言模型开发的软件系统在实施《被遗忘权》方面面临新的挑战，本文探讨了这些挑战并提供了关于如何采取技术解决方案来实现《被遗忘权》的见解，包括机器遗忘、模型编辑和提示工程。

    Jul, 2023

  • 机器学习中的数据删除：让人工智能忘掉您

    研究了如何在不影响模型质量的情况下，有效地删除机器学习模型中的个人数据，针对 k-means 聚类模型，提出了两个可靠且高效的删除算法，平均删除效率提高了 100 倍以上。

    Jul, 2019

  • 不打开黑匣子的反事实解释：自动化决策与 GDPR

    探讨欧盟通用数据保护条例中关于解释权的存在、优点和缺点。 提出使用无条件的反事实解释来支持三个目标：帮助个人了解为何做出特定决策，提供理由以反对决策，以及了解为了将来获得期望的结果需要做出的改变。

    Nov, 2017

  • 机械心灵的永恒阳光：机器学习与被遗忘权之不可调和

    在人工智能快速发展的时代，必须意识到深度学习模型的结构和大小使得其难以像传统数据库那样删除或遗忘数据，从而探讨了机器学习和被遗忘权之间的实质差距以及其可能带来的深远影响。

    Mar, 2024

  • 联邦学习中的被遗忘权利：一种高效的快速重训练实现

    本研究旨在研究联邦学习（FL）系统中的机器非重学习问题，提出了一种快速数据淘汰方法以保护数据隐私，并在四项真实数据集上进行了测试和分析。

    Mar, 2022

  • 欧盟算法决策与 “解释权” 法规

    本文讨论了欧盟的《通用数据保护条例》对机器学习算法的潜在影响，包括限制基于用户级别预测因素做出决策的自动化决策的使用，, 并创建了 “解释权”，我们认为这为计算机科学家在设计避免歧视、能够解释的算法和评估框架方面提供了机会。

    Jun, 2016