深度验证网络：使用深度生成模型验证深度判别模型

AAAINov, 2019

深度验证网络：使用深度生成模型验证深度判别模型

Deep Verifier Networks: Verification of Deep Discriminative Models with Deep Generative Models

Tong Che, Xiaofeng Liu, Site Li, Yubin Ge, Ruixiang Zhang...

TL;DR本文提出一种名为 Deep Verifier Networks 的崭新框架，使用基于条件变分自编码器的深度生成模型验证深度判别模型的输入和输出，在结构预测任务中的异常检测取得了最新的研究结果。

Abstract

ai safety is a major concern in many deep learning applications such as autonomous driving. Given a trained deep learning model, an import

ai safety deep learning deep verifier networks conditional variational auto-encoders out-of-distribution detection

发现论文，激发创造

验证友好的深度神经网络

提出了一种生成可验证的神经网络（VNNs）的新框架，该框架通过后训练优化在保留预测性能和鲁棒性之间取得平衡，使得生成的网络在预测性能方面与原始网络相当，并且可以进行验证，以更加高效地建立 VNNs 的强大性。

Dec, 2023

验证深度学习对于超出分布领域的泛化能力

通过使用 DNN 验证技术，我们引入了一种新的方法来识别具有稳健泛化能力的 DNN 决策规则，并在真实世界环境中进行了广泛评估，为部署 DNN 驱动系统提供了新的验证目标。

Jun, 2024

面向安全关键深度神经网络的可扩展验证

本篇论文介绍了在安全重要应用领域中使用深度神经网络的问题，针对其可靠性和安全性的担忧，提出了采用形式化验证来保证其运行符合预期，并通过两个方向，即设计可扩展性的验证技术和识别可验证的深度学习系统的设计选择来缓解这一挑战。

Jan, 2018

使用学习的验证器训练已验证的学习者

本文提出了一种新的算法框架，predictor-verifier training，用于训练可验证的神经网络，同时训练两个网络：一个预测网络和一个验证网络以达到最大化输出准确性并满足输入输出特定属性的目标。实验表明，predictor-verifier 架构能够训练出鲁棒性强的神经网络并且训练时间显著减短，在像 MNIST 和 SVHN 这样的小数据集上优于以前的算法，同时能够扩展到 CIFAR-10 并产生首个已知的可验证鲁棒网络。

May, 2018

深度价值网络学习评估和迭代优化结构化输出

采用一种深度价值网络进行结构化的输出预测，对不同输出配置下给定输入的任务损失进行准确估计，包括图像分割和多标签分类，实现了表现最先进的结果。

Mar, 2017

深入探究：机器学习验证和验证综述及在汽车工业中的挑战探讨

本文回顾了关于深度神经网络在安全关键系统中验证和验证方面的现有技术，并建议飞行器到汽车的知识转移和系统级的安全方法，例如安全笼架架构和模拟的系统测试案例。

Dec, 2018

深度神经网络的安全验证

本研究提出一种基于 Satisfiability Modulo Theory (SMT) 的新型自动化验证框架，旨在保证深度神经网络对于图像操作的安全性，能够发现对于给定操作范围和家族，对抗性样本是否存在，同时比较现有的相关技术。

Oct, 2016

具分布鲁棒性的不精确神经网络统计验证

为高维自主系统提供行为保证是人工智能安全领域中的一个特别具有挑战性的问题。本文提出了一个基于主动学习、不确定性量化和神经网络验证的新方法，其中的核心是一种称为不精确神经网络的集成技术，它提供了用于引导主动学习的不确定性。通过在多个物理模拟器上对经过增强学习的控制器进行评估，证明了我们的方法可以为高维系统提供有用且可扩展的保证。

Aug, 2023

深度概率模型的验证

该文章提出了一种验证深度概率模型的新框架，在模型输出过程中采样潜在变量并考虑其所需的条件输入，以高概率满足线性约束，并能够有效地验证功能空间中感兴趣的属性（单调性、凸性）

Dec, 2018

可扩展验证的深度二元强化学习

使用二值化神经网络 (BNNs) 的强化学习算法以提高可验证性的方法，解决了神经网络在安全关键场合应用上不可靠的问题。在训练 Atari 环境中的 BNNs 之后，我们验证了其鲁棒性属性。

Mar, 2022