云端神经网络训练中的保密性保护
本研究探索了使用 Trusted Execution Environments(TEE)优化深度神经网络执行的问题,提出了一种名为 Slalom 的框架,用于实现基于 TEE 架构的有效且私密的外包计算,实验结果表明 Slalom 的执行性能在特定条件下有显著提升。
Jun, 2018
DarkneTZ 是一个使用边缘设备的可信执行环境(TEE)和模型分区相结合的框架,旨在限制面向深度神经网络(DNN)的攻击面,并评估了其 CPU 执行时间和内存使用情况。
Apr, 2020
本文提出了一种通过差分隐私保护技术,结合深度神经网络、迁移学习和集成学习,实现在医疗保健领域下针对物联网、边缘计算和云计算融合的框架。该框架可用于在边缘服务器上进行本地模型训练以提高模型精度,并通过集成多个本地模型生成高精度的最终模型,同时保护敏感的私人数据。
May, 2023
本文探讨了深度学习图像分类管道中推断输入的生命周期,提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题,并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估,验证了云上部署机密推理服务的可行性。
Jul, 2018
设计、评估、并实现了一个名为 ARDEN 的基于云的框架,其中敏感信息在移动设备上进行简单数据转换,而资源密集型的训练及复杂的推断则由云数据中心处理,同时采用轻量级的隐私保护机制,以提供强大的隐私保证,并提出一种噪声训练方法以提高云端网络的抗干扰能力,验证结果证明了 ARDEN 的有效性和实用性。
Sep, 2018
通过在设备上进行机器学习引入了新的安全挑战,研究人员提出了 TEE-Shielded DNN 划分的解决方案,通过将 DNN 模型划分为两部分并将隐私敏感的部分保护在 TEE 内,从而提供了与将整个 DNN 模型放入 TEE 中相同的安全保护,但开销减少了 10 倍,并且没有准确度损失。
Oct, 2023
该研究提出了一种基于中间表示的 DNN 拆分框架,其中本地神经网络用于生成特征表示,云神经网络则基于提取的中间表示用于目标学习任务的训练,在保护数据隐私的同时优化目标任务的准确性,并提出 PrivyNet 来确定本地神经网络的拓扑结构以优化目标任务的准确性并在保证数据隐私、本地计算和存储方面受到限制。
Sep, 2017