本文提出了一种基于拓扑学视角的集合边界可达性方法，通过利用神经网络的同胚性质，仅需对输入集合的边界进行可达性分析，从而实现神经网络在安全验证问题上的应用。

Oct, 2022

本文提出了一种基于拓扑视角的集边界可达性方法，通过利用神经网络的同胚性质和开映射性质来实现对神经网络输入集合和输出集合之间边界特性的研究，从而实现安全验证问题的解决。

Jun, 2023

该论文研究了循环神经网络和其变体在处理序列方面的强大性能，并提出了一种基于长短期记忆（LSTM）预测区间的控制图方法，用于监测具有时间变动性的数据，并表明该方法优于其他基于神经网络的预测监测方法，特别适用于检测平均值突变的异常情况。

Sep, 2023

本文提出一种模型无关的验证框架 DeepAgn，通过 reachability analysis，可以解决计算给定输入的最大安全半径和生成地面实际的例子等多个已知鲁棒性问题，尤其适用于处理包括 FNN 和 RNN 在内的复杂深层神经网络的验证。

Apr, 2023

本文研究针对前馈深度神经网络的通用可达性问题，通过计算输出函数值的下限和上限，得到区间范围内的可达值，从而得出安全性验证问题、输出范围分析问题和鲁棒性度量，并通过自适应嵌套优化的新算法，有效地解决了可达性问题。

May, 2018

本文提出了一种适用于 Transformer 的鲁棒性验证算法，证明了其结果远优于 Interval Bound Propagation 算法，帮助理解了情感分析中不同单词的重要性。

Feb, 2020

基于深度神经网络的时间同步状态估计器对于输入扰动具有鲁棒性和可信度的分析验证，并通过批量标准化解决混合整数线性规划问题的可扩展性限制。在修改的 IEEE 34 节点系统和真实的大型配电系统上，验证了该框架在面对微相位测量单元观测不完整的情况下进行时间同步配电系统状态估计的能力。

Nov, 2023

本文提出了一种算法框架 RO-TS，它利用最小 - 最大优化问题，通过显式推理测量距离来构建时间序列分类任务的鲁棒 DNN，并提出了 SCAGDA 算法来解决该问题，实验证明该方法比数据增强或新的损失函数定义更能产生鲁棒的 DNN。

Jul, 2022

为高维自主系统提供行为保证是人工智能安全领域中的一个特别具有挑战性的问题。本文提出了一个基于主动学习、不确定性量化和神经网络验证的新方法，其中的核心是一种称为不精确神经网络的集成技术，它提供了用于引导主动学习的不确定性。通过在多个物理模拟器上对经过增强学习的控制器进行评估，证明了我们的方法可以为高维系统提供有用且可扩展的保证。

Aug, 2023

通过计算神经网络的可达集，提出了两种有效的方法来提高分类器和回归模型的健壮性和预测的可靠性。该原则适用于识别可靠和不可靠的预测的未标记输入，量化每个特征对预测的影响并计算特征排名。

Jul, 2020