Jul, 2024

分类模型中的数据痕迹：隐私问题及通过数据混淆的缓解

PDF
TL;DRAI 部署和安全隐私问题密不可分，该研究通过探索不同分类器的漏洞、减少漏洞分类器的漏洞性、研究数据混淆技术的隐私性能权衡等三个主要方面，旨在解决数据足迹带来的漏洞，提供了在不同情景和环境中选择分类器的有用结果。
ai deploymentsecurity-privacy concernsdata footprintsvulnerable classifiersdata obfuscation techniques
发现论文，激发创造
  • 数据混淆实现隐私保护机器学习

    该论文提出了一种新的通用方法 —— 混淆函数，可在不泄露机器学习训练数据的前提下保护其中的隐私信息，并成功地抵御了四种现有的机器学习隐私攻击。

    Jul, 2018

  • 利用后门维护我们的隐私

    通过插入后门，我们提出了一种简单而有效的防御方法，以消除模型中的私人信息，特别是在文本编码器中，从而增强不经过过滤的网络爬取数据上的个人隐私。

    Oct, 2023

  • 机器学习中的隐私风险：分析与过度拟合的关联

    本篇论文探讨了机器学习算法在敏感数据应用时对隐私的威胁，分析了过拟合和影响因素对攻击者从训练数据中提取信息的能力的影响，并研究了成员推断和属性推断之间的联系。

    Sep, 2017

  • 隐形分类器：对敏感分类任务的伪姓名策略

    分享我们的指南以及我们在处理敏感 NLP 数据时遇到的挑战和结果数据集，强调在数据共享中保护隐私的重要性，并确保数据的实用性和稳健的隐私保障。

    Jun, 2024

  • 只有我的模型与我的数据：一种保护模型并欺骗未经授权的黑盒模型的隐私保护方法

    通过生成可被人类感知的图像，本研究在保护模型准确推断的同时，回避其他类似或不同目标的非授权黑盒模型，以实现实际的隐私保护。

    Feb, 2024

  • 遗忘机器学习

    该研究论文详细介绍了新颁布的 GDPR 法对机器学习模型隐私保护的重要性，针对深度神经网络模型容易遭受信息泄漏攻击的问题提出了 Unlearning 和 Amnesiac Unlearning 两种数据删除方法，实验证明这两种方法可行、安全。

    Oct, 2020

  • 提升机器学习数据隐私保护的最新方法 —— 综述

    探讨隐私保护机器学习（PPML）的兴起及其对各领域的巨大影响，强调在机器学习框架中保护隐私所面临的挑战，讨论当前研究努力，旨在最小化隐私敏感信息和增强数据处理技术，通过应用密码学方法、差分隐私和可信执行环境等隐私保护技术，保护机器学习训练数据防止隐私侵犯，尤其关注 PPML 在敏感领域中的应用及其在保护机器学习系统隐私与安全方面的关键作用。

    Feb, 2024

  • 大语言模型时代的隐私保护：你所写即你所是

    本文调查了一系列流行模型中预训练表示所编码的个人信息的程度，并展示了模型越复杂和数据越多，可能出现数据泄露的正相关性。作者对一种大型多语言数据集上的情感分析特征进行了广泛覆盖的比较和评估，结果表明，隐私保护方法的使用非常重要。作者还发现高度隐私保护的技术（如差分隐私）可能会对模型效用产生严重影响，可以使用混合或度量隐私方法来解决。

    Apr, 2022

  • 记忆算法：模型反演攻击与数据保护法

    该研究论文讨论了机器学习治理和预防算法危害的问题，以及如何应用 GDPR 监管。同时，介绍了信息安全领域中的模型逆推和成员推断攻击，并探讨了将某些模型合法归类为个人数据所涉及的不同权利和义务，以及这些措施的效用，并考虑了算法治理和监管的未来方向。

    Jul, 2018

  • 机器学习模型隐私风险的系统评估

    本文研究了机器学习模型的隐私风险和成员推理攻击，提出了一种基于预测熵修改的推理攻击和一个新的隐私风险得分指标，同时对已有的防御机制进行了基准攻击，实验结果表明个体样本的隐私风险得分分布差异很大，同时确定源风险的主要因素与模型敏感性、综合误差和特征嵌入有关系。

    Mar, 2020