SafetyNets: 在不受信任的云上可验证执行深度神经网络

Jun, 2017

SafetyNets: 在不受信任的云上可验证执行深度神经网络

SafetyNets: Verifiable Execution of Deep Neural Networks on an Untrusted Cloud

Zahra Ghodsi, Tianyu Gu, Siddharth Garg

TL;DRSafetyNets 是一个特定的交互式证明协议，允许云端提供商向客户提供正确的推理，在保证云端运行效率的同时，使用算术电路类的深层神经网络实现高正确率验证。

Abstract

Inference using deep neural networks is often outsourced to the cloud since it is a computationally demanding task. However, this raises a fundamental issue of trust. How can a client be sure that the cloud has performed inference correctly? A lazy cloud provider might use a simpler bu

deep neural networks cloud computing safety verifiable execution inference correctness

发现论文，激发创造

利用深度神经网络的关键系统安全框架

本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

Mar, 2020

SafetyNet: 鲁棒地检测并拒绝对抗样本

通过构建 SafetyNet 架构，并应用于 SceneProof 应用，我们提出了一种新的方法来对抗深度神经网络中的对抗攻击。实验结果表明，我们的方法能够难以被当前已知的攻击方法攻破。

Apr, 2017

深度神经网络的安全验证

本研究提出一种基于 Satisfiability Modulo Theory (SMT) 的新型自动化验证框架，旨在保证深度神经网络对于图像操作的安全性，能够发现对于给定操作范围和家族，对抗性样本是否存在，同时比较现有的相关技术。

Oct, 2016

面向安全关键深度神经网络的可扩展验证

本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

Jan, 2018

BadNets: 识别机器学习模型供应链中的漏洞

本文探讨了基于深度学习的技术在云端上进行外包培训时所带来的安全风险，提出了恶意训练网络的概念（即 BadNet），并阐述了在实际情景中 BadNet 的行为，讨论了神经网络中后门的研究难点和验证技术的发展。

Aug, 2017

盐加入推理：在移动计算中提升隐私并保持分裂推理的效率

通过分割推理和 Salted DNNs 方法，满足了边缘计算中保护输入和输出隐私的要求，并在保持了类似标准 DNN 的准确性和效率的同时，为未来研究提供了一个基准。

Oct, 2023

验证友好的深度神经网络

提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

Dec, 2023

DeepSafe: 基于数据驱动的神经网络对抗鲁棒性检测方法

本文提出了一种利用聚类方法自动识别神经网络输入空间安全区域的方法，并借助验证技术来确认这些区域是否安全或提供不安全的反例，并引入了目标鲁棒性的概念，以确保神经网络不会将任何输入映射到目标标签，利用 MNIST 数据集以及控制下一代无人机避撞系统的神经网络实施的空中碰撞预防系统（ACAS Xu）进行验证。

Oct, 2017

Slalom：受信任硬件中神经网络的快速、可验证和私有执行

本研究探索了使用 Trusted Execution Environments（TEE）优化深度神经网络执行的问题，提出了一种名为 Slalom 的框架，用于实现基于 TEE 架构的有效且私密的外包计算，实验结果表明 Slalom 的执行性能在特定条件下有显著提升。

Jun, 2018

安全关键任务的可靠神经网络

本文提出了一种机器学习可靠性指标，可以评估神经网络在不同的操作条件下的成功概率，并通过设计安全功能来减少有害失效，同时在维持高成功概率的前提下，在机器人操纵任务中进行了实际应用测试。

Dec, 2019