Jul, 2018

记忆算法：模型反演攻击与数据保护法

PDF
TL;DR该研究论文讨论了机器学习治理和预防算法危害的问题，以及如何应用 GDPR 监管。同时，介绍了信息安全领域中的模型逆推和成员推断攻击，并探讨了将某些模型合法归类为个人数据所涉及的不同权利和义务，以及这些措施的效用，并考虑了算法治理和监管的未来方向。
machine learningalgorithmic harmsgeneral data protection regulationmodel inversionmembership inference
发现论文，激发创造
  • 遗忘机器学习

    该研究论文详细介绍了新颁布的 GDPR 法对机器学习模型隐私保护的重要性，针对深度神经网络模型容易遭受信息泄漏攻击的问题提出了 Unlearning 和 Amnesiac Unlearning 两种数据删除方法，实验证明这两种方法可行、安全。

    Oct, 2020

  • 符合 GDPR 的机器学习 HCI 优先事项

    本文提出人机交互在法律上对算法系统的公平性、偏见与歧视、数据保护、透明度、自动偏见的减轻和理解以及处理后果的沟通等方面的作用。

    Mar, 2018

  • 欧盟算法决策与 “解释权” 法规

    本文讨论了欧盟的《通用数据保护条例》对机器学习算法的潜在影响，包括限制基于用户级别预测因素做出决策的自动化决策的使用，, 并创建了 “解释权”，我们认为这为计算机科学家在设计避免歧视、能够解释的算法和评估框架方面提供了机会。

    Jun, 2016

  • 反推攻击图神经网络模型

    该论文对 GNNs 进行了系统研究，提出了 GraphMI 方法用于推断私有训练数据中的离散边缘，建议更有效的隐私防御措施。

    Sep, 2022

  • 通过正则化解开私有类

    本篇论文提出 DisP 方法，用于深度学习模型中隐私信息保护，通过去相关策略对同一个类别的特征解耦以保护隐私，实验证明其有效性。

    Jul, 2022

  • 深度网络的成员模型反演攻击

    本文介绍了一种更真实的模型反演攻击定义，并利用生成对抗网络的属性构建连通的低维流形。我们在此流形内实施的模型反演攻击表现出高效率。

    Oct, 2019

  • 保护机器学习模型免受对抗样本的安全隐患

    本文研究机器学习中的安全和隐私领域，重点探究性会员推断攻击是否会受到对抗性的防御方法的影响，并通过实验验证证明对抗性的防御方法可以增加目标模型的风险。

    May, 2019

  • 使用对抗正则化的成员隐私机器学习

    介绍了一种隐私机制，用于训练机器学习模型以保证隐私，并使用敌对训练算法最小化模型的分类损失和最大的成员推断攻击，从而提高模型的鲁棒性和泛化性能，该机制在深度神经网络上的测试结果表明，可以在可接受的分类误差下显著降低成员推断攻击的风险。

    Jul, 2018

  • 机器学习模型隐私风险的系统评估

    本文研究了机器学习模型的隐私风险和成员推理攻击，提出了一种基于预测熵修改的推理攻击和一个新的隐私风险得分指标，同时对已有的防御机制进行了基准攻击，实验结果表明个体样本的隐私风险得分分布差异很大，同时确定源风险的主要因素与模型敏感性、综合误差和特征嵌入有关系。

    Mar, 2020

  • 关于机器学习系统中个人信息的保护：两种最近方法

    该论文在 Saltzer 和 Schroeder 1970 年代的经验教训下，回顾了最近关于隐私的两篇研究文章，并探讨了新技术在保护机器学习所依赖的数据隐私方面的应用。

    Aug, 2017