Nov, 2023

从信息流控制的角度重新思考机器学习管道中的隐私

PDF
TL;DR在本文中，我们从信息流控制的角度描述了机器学习系统，利用元数据，如访问控制策略来定义明确的隐私和机密性保证，通过比较两种不同方法，即针对每个用户进行微调模型和在推理时访问用户特定数据集的检索增强模型，我们证明检索增强架构可以在满足严格的非干扰性保证的同时提供最佳的效用、可扩展性和灵活性。
发现论文，激发创造
  • 模块化模型架构中的机器学习信息流控制

    为了使受访者能够更加安全地使用 Access-controlled 数据，该研究提出了信息流控制的概念并开发了一种基于 Mixture-of-Experts 的 Transformer 语言模型。实验结果表明，该模型能够使数据的性能开销最小化并显著提高训练模型的准确性。

    Jun, 2023

  • 提升机器学习数据隐私保护的最新方法 —— 综述

    探讨隐私保护机器学习（PPML）的兴起及其对各领域的巨大影响，强调在机器学习框架中保护隐私所面临的挑战，讨论当前研究努力，旨在最小化隐私敏感信息和增强数据处理技术，通过应用密码学方法、差分隐私和可信执行环境等隐私保护技术，保护机器学习训练数据防止隐私侵犯，尤其关注 PPML 在敏感领域中的应用及其在保护机器学习系统隐私与安全方面的关键作用。

    Feb, 2024

  • 关于机器学习系统中个人信息的保护：两种最近方法

    该论文在 Saltzer 和 Schroeder 1970 年代的经验教训下，回顾了最近关于隐私的两篇研究文章，并探讨了新技术在保护机器学习所依赖的数据隐私方面的应用。

    Aug, 2017

  • 数据混淆实现隐私保护机器学习

    该论文提出了一种新的通用方法 —— 混淆函数，可在不泄露机器学习训练数据的前提下保护其中的隐私信息，并成功地抵御了四种现有的机器学习隐私攻击。

    Jul, 2018

  • 为视觉隐私研究提出交互式审计流程

    本篇论文旨在通过对视觉隐私问题的分析，系统地研究机器学习流程中的公平性、隐私、人类干预以及潜在的社会伦理问题，从而提高相关利益相关者（研究人员，模型构建者，企业等）的认识与责任意识。

    Nov, 2021

  • 大型语言模型对齐的隐私保护指令

    通过使用合成指令替代真实指令进行数据注释和模型微调，通过定义差分隐私生成合成指令，匹配合成指令和真实指令的分布来实现所需效用，结果表明，使用合成指令进行监督微调的模型优于开源模型。

    Feb, 2024

  • 管理您的私人和公共数据：降低推断攻击对您隐私的威胁

    本文提出了一种隐私保护的实用方法，使用通用的统计推断框架捕获推断攻击下的隐私威胁并满足效用约束，采用隐私保护概率映射技术对发布的数据进行扭曲处理，同时解决了实际中遇到的实用挑战，通过引入量化步骤和减少优化大小的方法，我们的方法在保证数据原版用途的情况下，取得了良好的隐私保护效果。

    Aug, 2014

  • 信息管理中保持语义的失真用于个人隐私保护

    本研究提出了一种以语义保持的方式扭曲文本以达到保护个人隐私的方法，实验表明该方法在数据隐私保护以及特定医疗信息管理上有着实际意义.

    Jan, 2022

  • 基础模型能帮助我们实现完美保密吗？

    该研究探讨了在保持隐私的同时使用机器学习进行个人任务的挑战，使用预训练模型的上下文学习功能成为可能的替代方案，此方法与基于联邦学习的框架具有相似的性能表现。

    May, 2022

  • 基于学习的声明性隐私保护联邦数据管理框架

    该研究提出了一种端到端的工作流程，用于自动化隐私保护技术，通过使用差分隐私随机梯度下降（DP-SGD）算法训练的深度学习模型替换实际数据的部分以回答查询，以平衡联邦查询处理中的隐私和准确性。

    Jan, 2024