Oct, 2023

盐加入推理：在移动计算中提升隐私并保持分裂推理的效率

PDF
TL;DR通过分割推理和 Salted DNNs 方法，满足了边缘计算中保护输入和输出隐私的要求，并在保持了类似标准 DNN 的准确性和效率的同时，为未来研究提供了一个基准。
split inferenceoutput privacysalted dnnsclassification accuracysplit inference
发现论文，激发创造
  • 一个混合深度学习架构用于隐私保护移动分析

    本篇论文提出了一种用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理的思想，在保持效益的同时，有效减少了不必要、潜在敏感信息的级别。利用 Siamese 微调技术，可以确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。

    Mar, 2017

  • 隐私分区：在深度学习推理阶段保护用户数据

    提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

    Dec, 2018

  • RL-DistPrivacy: 低延迟 IoT 系统隐私感知分布式深度推理

    本论文通过重新考虑分发策略，并利用增强学习设计来支持异构设备和多个 DNN / 数据集，实现协同深度推理的安全性，以平衡联合推理的延迟和数据隐私级别之间的权衡。

    Aug, 2022

  • 关于分割学习的数据无关模型反演、模型窃取和标签推理攻击

    通过两种新攻击方法，我们表明 Split learning 算法不能保障训练数据和模型参数的安全，因此提供的隐私保护是虚假的。

    Aug, 2021

  • 三元模型分区实现机密推理

    本文探讨了深度学习图像分类管道中推断输入的生命周期，提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题，并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估，验证了云上部署机密推理服务的可行性。

    Jul, 2018

  • SplitEE：深度神经网络中的分割计算早期退出

    将早期退出和拆分计算相结合，开发了一种在线无监督学习算法 SplitEE，通过在资源受限设备中选择性计算和外部计算，实现了大幅降低成本（>50%）并略微降低准确性（<2%）的效果。

    Sep, 2023

  • 双加密网络：利用不同层面的隐私进行加密推理

    该研究采用隐私保护神经网络中的不同方法，通过敏感和非敏感部分的分解以及密文和明文的分支，利用同态加密和知识蒸馏等技术提高信息安全性、降低推理延迟。

    Feb, 2024

  • BAYHENN: 将贝叶斯深度学习和同态加密相结合，实现安全 DNN 推理

    该论文介绍了一种使用同态加密和贝叶斯神经网络结合的实际解决方案 --BAYHENN，实现了在云服务上保护客户数据和服务器数据隐私的安全性深度神经网络（DNN）推理。我们在 MNIST 和临床数据集上进行了实验，结果显示我们的方法可以在端到端延迟方面优于现有最佳方法（GAZELLE）约 5 倍。

    Jun, 2019

  • 通过深度神经网络的自适应模型分割辅助校准边缘推断卸载

    该研究针对移动设备上的深度神经网络的推断，使用自适应模型划分的方法解决了通信延迟的问题，并对准确性进行了预测和校准，从而实现更可靠的推断决策。

    Oct, 2020

  • Λ-Split：面向云驱动生成式人工智能的隐私保护分离计算框架

    通过引入 Lambda-Split 分割计算框架，我们有效解决了生成式人工智能服务中由计算需求导致的云计算问题，同时加强了数据隐私安全，并且经验证明其与传统加密安全机制相辅相成。

    Oct, 2023