使用背包优化保障神经网络安全
介绍了一种基于多方计算的机器学习服务(MLaaS)的方法,通过使用多项式逼近替换 ReLU 激活函数和采用单轮 MPC 协议进行评估,实现了在大型模型上快速准确的推理,从而保护客户数据隐私。
Jun, 2023
该研究提出了一种敏捷的训练方法 SENet,可在保持模型分类精度的同时大幅度减少 ReLU 神经元来降低由 ReLU 操作引起的延迟,从而提高隐私推断(PI)的效率与准确性。
Jan, 2023
CrypTFlow2 是一种加密框架,用于使用安全的两方计算进行真实的深度神经网络(DNN)安全推理。它可以有效地实现近乎等于明文执行的正确输出,并且比现有技术更加高效。
Oct, 2020
该研究在机器学习应用到敏感数据时,结合同态加密技术和神经网络提供了两种解决方案,分别是提高深度和宽度相对较高的网络精度和降低网络推理的延迟时间以提供更好的隐私保障。这两种方案应用于几个计算机视觉任务,并获得了良好的效果。
Dec, 2018
通过分割推理和 Salted DNNs 方法,满足了边缘计算中保护输入和输出隐私的要求,并在保持了类似标准 DNN 的准确性和效率的同时,为未来研究提供了一个基准。
Oct, 2023
使用安全多方计算方法构建隐私保护的神经架构搜索框架,其中使用重新设计的 ReLU 和 Max-pooling 保混乱电路以及对秘密共享的 Softmax 函数的新替代方法,分析和实验表明其在安全性,效率和准确性方面具有优越性。
Apr, 2022
本文提出 DeepReDuce 以降低 ReLU 的总数,从而减少隐私神经推理的延迟时间,保持高精度。与私有推理的最新技术相比,DeepReDuce 在等 RELUs 数量的情况下提高了精度并将 RELUs 数量降低了 3.5%,同时提高了 3.5 倍的精度。
Mar, 2021
提出了一个基于梯度优化的算法,通过 ReLU 感知优化在保证预测准确性的前提下,针对私有推理的瓶颈问题实现了可选择性地进行线性化,实验结果表明,相比现有研究,该算法在提升预测准确率(50K iso-ReLU)上可达到 4.25%,或者在保证预测准确性(70%)的前提下可减少 2.2 倍的运行时间,并在延迟 - 准确性空间中不断完善。
Feb, 2022
SSNet 是第一个基于 Shamir's secret sharing 的 MPC-based ML framework,能够扩展计算参与方数量,减少通信开销,并在性能上显著提升,与最先进的 MPC frameworks 相比,速度提高了 3 倍至 14 倍。
Jun, 2024
本文提出了一种基于傅里叶变换的具有快速和安全特点的卷积神经网络预测方法 FALCON,并介绍了第一个对 CNN 中不可或缺的 softmax 函数进行高效和保护隐私的协议,该方法通过全同态加密有效地评估了 CNN 模型的线性层,并在真实世界的 CNN 模型上进行了性能评估,实验结果表明,FALCON 在计算和通信成本方面优于最佳已知方法。
Nov, 2018