Jan, 2024

合作推理中使用模型集合抵御模型倒置攻击

PDF
TL;DR在这篇论文中，我们介绍了一种名为 Ensembler 的可扩展框架，该框架旨在显著增加对抗方进行模型逆推攻击的难度，从而实现对数据隐私的保护，并通过与基本的高斯噪声相结合，有效地保护图像免受重构攻击，其识别水平甚至低于某些严格环境下的人类性能，并显著优于缺乏 Ensembler 框架的基准方法。
deep learning modelsdata privacyensembler frameworkmodel inversion attacksedge devices
发现论文，激发创造
  • 隐私保护的融合增强型深度神经网络边缘云融合框架

    本文提出了一种通过差分隐私保护技术，结合深度神经网络、迁移学习和集成学习，实现在医疗保健领域下针对物联网、边缘计算和云计算融合的框架。该框架可用于在边缘服务器上进行本地模型训练以提高模型精度，并通过集成多个本地模型生成高精度的最终模型，同时保护敏感的私人数据。

    May, 2023

  • 深度神经网络对抗扰动的防御方法：集成学习

    采用集成方法作为防御策略可增强神经网络在 MNIST 和 CIFAR-10 数据集中对于对抗扰动的鲁棒性。

    Sep, 2017

  • EdgeConvEns：面向边缘智能的卷积集成学习

    此研究提出了一种被称为 EdgeConvEns 的卷积集成学习方法，它在边缘设备上训练异构弱模型，并学习将它们集成起来，从而提高整体的预测性能。通过在边缘设备上独立实现和训练 Field-Programmable Gate Array（FPGA）设备上的模型，并将学习到的数据表示传输到中央服务器，EdgeConvEns 能够在多种训练场景下更少的通信和数据使用的情况下，胜过当前最先进的性能。

    Jul, 2023

  • 数量大于强度：通过对抗训练的集合优化鲁棒性和计算效率

    通过对对抗样本的数据增广训练神经网络模型，以提高模型的抗干扰性，并发现通过将小型模型构成的集成模型一起进行对抗训练相比使用单个大模型的训练更有效。而重点在于对整个集成模型的对抗训练，而不是只对每个模型进行对抗训练。

    Nov, 2018

  • DVERGE: 增强集合模型的多样化漏洞生成

    研究发现，针对图像分类的 CNN 模型存在重叠的对抗性漏洞，DVERGE 通过提取非鲁棒特征并使对抗性漏洞多样化，实现了针对转移攻击的高鲁棒性。

    Sep, 2020

  • 低数据迁移学习的深度集成

    本文探讨了从预训练模型中创建集成模型的不同方法，并提出了一种有效的算法来识别下游数据集的预训练模型子集。在 19 项下游任务中（视觉任务适应基准），即使从超过 2000 个预训练模型中进行选择，其实现了具有较低推理预算的最先进性能，并且在 ImageNet 变体上对分布转移具有更好的鲁棒性。

    Oct, 2020

  • 优化的集成模型以实现安全的工业物联网设备

    提出了一种基于贝叶斯优化 - 高斯过程（BO-GP）和集成树状学习模型的框架，以提高工业物联网环境中入侵和攻击检测的性能。实验结果显示，与标准树模型和集成树模型相比，该框架在检测精度、准确率和 F-score 方面有所提高。

    Jan, 2024

  • 三元模型分区实现机密推理

    本文探讨了深度学习图像分类管道中推断输入的生命周期，提出了一种三元模型分区机制来减轻深度学习场景中存在的信息泄露问题，并在分别考虑不同网络深度和复杂程度的三个代表性 ImageNet 级别深度学习模型上进行了全面的安全和性能评估，验证了云上部署机密推理服务的可行性。

    Jul, 2018

  • 隐私分区：在深度学习推理阶段保护用户数据

    提出了一种名为 “Privacy Partitioning” 的方法，通过将机器学习模型拆分并部署到本地设备和远程服务器中，保护用户数据，防止对状态最先进的深度网络的中间状态进行攻击并推断出隐私敏感的输入。（该方法）能够在不影响分类准确性的情况下有效削弱攻击者获得隐私敏感信息的能力。

    Dec, 2018

  • 私有合成数据与集成学习

    通过应用差分隐私机制生成多个合成数据集，并对这些数据集进行训练，我们引入了一种新的集成策略以提高下游模型在真实数据上的性能。通过增加样本多样性，我们的实验结果表明，这种集成策略改善了使用基于生成对抗网络的差分隐私机制训练模型的下游模型的准确性和校准度。

    Oct, 2023