机器学习的安全有效数据评估
研究利用安全多方计算技术,设计和实现了多个安全多方计算友好的机器学习基元,包括类别权重调整和可并行近似激活函数,以解决在基因组研究中由于涉及到多方数据协作,数据隐私和机密性等问题。该研究在 iDASH2019 安全基因组分析竞赛的第四组别获得第一名。
Feb, 2020
本论文介绍 CrypTen:一种软件框架,通过现代机器学习框架中的常见抽象(如张量计算、自动差分、模块化神经网络)暴露出流行的安全多方计算基元,可执行现代机器学习模型的高效私有评估,并为文本分类、语音识别和图像分类等最新模型提供了一些基准测试。
Sep, 2021
本文介绍了一种称为联邦学习的新机器学习方法,并使用多方计算来实现 FL 模型的隐私保护模型聚合,以实现在 IoT 智能制造平台中利用各自数据集进行联合训练的效果。
May, 2020
这项工作主要关注机器学习模型的训练阶段,在这个阶段对用户数据的隐私保护至关重要。我们提供了坚实的理论背景,以便更容易理解当前方法及其局限性。此外,我们对最新的模型训练框架进行了详细比较,提供了在标准基准上独特属性和性能的全面对比。我们重现了一些论文的结果,并考察现有作品对开放科学的支持程度,认为我们的工作就提高了关于隐私保护机器学习在理论进展和实际应用之间差距的意识,特别是在开放源代码可用性、可重复性和可用性方面。
Mar, 2024
介绍了一种基于多方计算的机器学习服务(MLaaS)的方法,通过使用多项式逼近替换 ReLU 激活函数和采用单轮 MPC 协议进行评估,实现了在大型模型上快速准确的推理,从而保护客户数据隐私。
Jun, 2023
探讨隐私保护机器学习(PPML)的兴起及其对各领域的巨大影响,强调在机器学习框架中保护隐私所面临的挑战,讨论当前研究努力,旨在最小化隐私敏感信息和增强数据处理技术,通过应用密码学方法、差分隐私和可信执行环境等隐私保护技术,保护机器学习训练数据防止隐私侵犯,尤其关注 PPML 在敏感领域中的应用及其在保护机器学习系统隐私与安全方面的关键作用。
Feb, 2024
本研究探究了在机器学习的背景下,提供一个带有恶意安全性的 MPC 协议的实现的 SPDZ 框架的效率,发现其优于以前的实现方式,提供更强的安全性。
Jan, 2019
提出了一种用于隐私保护机器学习的安全四方协议和框架,在广泛使用的四种机器学习算法上进行了应用,并在离线 - online 模式下操作。实验结果表明,在 LAN 和 WAN 环境下,与现有方法相比,该框架在训练和预测阶段的效果提高了 187 倍和 158 倍。
Dec, 2019
本文针对供应链中的多智能体强化学习(MARL)涉及的隐私问题进行了研究,在供应链组织建模为各个智能体的情况下,提出了一个安全的多方计算(MPC)框架的隐私保护机制来解决隐私保护的问题。通过在 MADDPG 算法上使用 SecFloat 实现了一个安全的 MPC 框架,并且进行了实验证明其在供应链领域能够显著降低浪费并提高平均收入。
Dec, 2023
本文通过进一步研究 Masked Predictive Coding 的三个重要方面:预训练数据的发言风格,对流式模型的扩展和如何更好地将预训练阶段的知识转移,实验证明,在下游识别任务中,预训练数据与匹配的发言风格更有用,使用 APC 和 MPC 的统一培训目标在 HKUST 上训练的流式模型上提供了 8.46%的相对错误率降低,目标数据适应和逐层判别式培训的组合有助于 MPC 的知识转移,在 AISHELL 上相对基线实现了 3.99%的错误率降低。
May, 2020