Sep, 2023

轮盘：基于语义的隐私保护设备边缘协作推理框架用于深度学习分类任务

PDF
TL;DR本文介绍了一种针对深度学习分类器的任务导向语义隐私保护的协作推断框架 Roulette，通过使用分割学习、加密机制和差分隐私保证等技术，有效提高推断准确性并保护用户的隐私信息。
deep learning classifierscollaborative inferenceprivacy disclosureroulettesplit learning
发现论文，激发创造
  • RL-DistPrivacy: 低延迟 IoT 系统隐私感知分布式深度推理

    本论文通过重新考虑分发策略，并利用增强学习设计来支持异构设备和多个 DNN / 数据集，实现协同深度推理的安全性，以平衡联合推理的延迟和数据隐私级别之间的权衡。

    Aug, 2022

  • 一个混合深度学习架构用于隐私保护移动分析

    本篇论文提出了一种用于合作、隐私保护分析的深度神经网络混合方法，使用边缘处理的思想，在保持效益的同时，有效减少了不必要、潜在敏感信息的级别。利用 Siamese 微调技术，可以确保用户设备只带有主任务所需的必要信息，并防止数据的二次推断。

    Mar, 2017

  • PrivaScissors：透过互信息的视角增强协作推断的隐私保护

    本文介绍了一种名为 PrivaScissors 的防御策略，可通过降低模型中间结果与设备数据、预测之间的互信息来增强协作推理的隐私性，经在多个数据集中进行攻击测试，具备理论上的鲁棒性保证。

    May, 2023

  • 深度学习中的本地差分隐私

    该研究提出了一种名为 LATENT 的本地差分隐私算法，该算法通过将卷积神经网络架构分为卷积模块、随机化模块和全连接模块，并使用新的差分隐私协议实现随机化模块作为网络功能虚拟化隐私保护服务，在边缘 - 云协同中使得保护隐私的深度学习在物联网环境下更加实用。

    Aug, 2019

  • 基于加性同态加密的深度神经网络用于非对称协作机器学习

    本文提出一种不对称协作机器学习的实用方案，其中一方拥有数据，另一方仅拥有标签，提出了一种新的保护隐私的架构方案，可以有效地帮助两方合作训练深度学习模型。

    Jul, 2020

  • 深度学习与差分隐私

    本论文提出新的算法技术，包括隐私成本的细化分析，并在差分隐私框架下进行。 实验结果表明：我们可以在较小的隐私成本下训练具有非凸目标的深度神经网络，而且在软件复杂性、训练效率和模型质量上具有可管理的成本。

    Jul, 2016

  • 隐私保护的融合增强型深度神经网络边缘云融合框架

    本文提出了一种通过差分隐私保护技术，结合深度神经网络、迁移学习和集成学习，实现在医疗保健领域下针对物联网、边缘计算和云计算融合的框架。该框架可用于在边缘服务器上进行本地模型训练以提高模型精度，并通过集成多个本地模型生成高精度的最终模型，同时保护敏感的私人数据。

    May, 2023

  • 多源私有数据上的高效深度学习

    Myelin 是一种深度学习框架，它结合了安全和隐私保护原则，使用可信硬件区域和差分隐私等技术以实现完全私密的机器学习模型训练。

    Jul, 2018

  • 隐私分区：在深度学习推理阶段保护用户数据

    提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

    Dec, 2018

  • Redactor：基于数据和个性化的抵抗推理攻击的防御

    研究信息泄露的问题，提出了利用针对性误导生成来强化机器学习模型对推理攻击的鲁棒性，即通过插入新数据来稀释原数据，使用多个分类器的决策边界进行概率标注。

    Feb, 2022