本文讨论了神经网络在安全和保密方面应用的局限性，提出了一些自动推理技术来提供神经网络性能的保障，并且对现有的神经网络自动验证方法进行了综合分类和阐述，同时讨论了存在的局限性以及未来研究的方向。

May, 2018

本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

Mar, 2020

本文探讨了将人工神经网络应用于安全关键领域中时面临的验证和认证挑战，提出基于属性的解决方案，通过混合整数优化问题的编码启发将 ANN 的最大弹性边界计算问题转化为解决 MIP 问题，并开发了多种 MIP 编码启发式方法，可极大地降低 MIP 求解器的运行时间，通过实验验证了该方法的高效性和可扩展性。

Apr, 2017

本文提出了一种有效的方法来严格检查神经网络的不同安全属性，可以检查不同的安全属性并找到具体的反例，比现有方法的性能提高了数个数量级，这种方法也有助于提高神经网络的可解释性并指导训练更加稳健的神经网络。

Sep, 2018

人工智能正在快速发展，并已成熟用于许多应用领域，如自主系统、医学诊断和自然语言处理。本文概述了确保人工智能决策安全的技术，并讨论了未来的挑战。

Sep, 2023

本文提出了一种机器学习可靠性指标，可以评估神经网络在不同的操作条件下的成功概率，并通过设计安全功能来减少有害失效，同时在维持高成功概率的前提下，在机器人操纵任务中进行了实际应用测试。

Dec, 2019

本文提出了一种新的神经网络学习框架，该框架通过集成基于优化算法的抽象精炼循环并在动态构建的具有准确性和安全性目标的输入空间的分区上操作，实现训练可证明正确的机器学习网络的目标。通过实现我们的方法并将其应用于强制执行 ACAS Xu 数据集和碰撞检测数据集的一般安全属性，我们证明实现安全不会以很多精度的代价为代价，关键在于采用一个抽象精炼方法对于构建准确和正确的机器学习网络提供了一条有意义的路径。

Jul, 2019

本文回顾了关于深度神经网络在安全关键系统中验证和验证方面的现有技术，并建议飞行器到汽车的知识转移和系统级的安全方法，例如安全笼架架构和模拟的系统测试案例。

Dec, 2018

提出了一种考虑了 ANN 模型可解释性和超参数选择的模型，用于智能家居应用领域的入侵检测，针对五种类别攻击和九个亚类别攻击进行了模型配置、性能和评估，利用最新的 IoT 数据集，该方法在二进制、类别和子类别攻击分类方面表现出高达 99.9%、99.7% 和 97.7% 的准确度。

May, 2022

本文提出一种基于混合整数线性规划的框架，首次在电力系统应用中验证神经网络行为，能够确定神经网络分类为安全或不安全的输入范围，并且能够系统地识别对抗性示例，从而提高神经网络在电力系统中的鲁棒性和可靠性。

Oct, 2019