信号时序逻辑谓词的模型预测鲁棒性
我们提出了一种新的方法,利用表达式优化和符合预测,从有限样本正确性保证的角度学习出可以在用户定义的置信水平下正确描述未来轨迹的时间逻辑谓词。我们通过对模拟轨迹数据集的实验结果以及消融研究来展示我们方法的性能,并分析了算法的各个组成部分对性能的贡献。
Jun, 2024
本文提供了一种系统的方法来合成时序逻辑公式的语法结构和参数,其中利用了一种新颖的进化算法来学习公式的结构,然后对候选公式的平均鲁棒性执行参数综合,以应对动力系统的异常轨迹检测和无效呼吸努力的表征两个案例研究。
Nov, 2017
我们提供了两种鲁棒性定义(标签鲁棒性和纯鲁棒性),利用 PAC 框架进行鲁棒性验证,并通过 TrajPAC 工具评估了四种最先进的轨迹预测模型在多个场景下的鲁棒性性能。
Aug, 2023
深度学习和鲁棒性在安全关键应用中的测评方法以及概率鲁棒性的权衡和使用条件进行了比较分析,提出了一种基于假设检验的直观实用测量标准,并将其整合到 TorchAttacks 库中,为对模型鲁棒性的理解做出了贡献。
Apr, 2024
本文探讨了对于 Bayesian 推断模型的输入扰动的鲁棒性估计问题,通过使用高斯过程理论并提出算法计算当前模型在输入空间中的紧密强度,并应用于两个例子中:一个 GP 回归问题和一个全连接深度神经网络来研究 MNIST 数据集上的对抗性例子。
Sep, 2018
通过行为测试,研究语言模型在数学问题求解中的鲁棒性和灵敏度,并通过因果图描述直接干预输入空间对模型行为的影响。在双变量数学问题测试中,LLM、GPT-3-Instruct(175B)相对于其他 GPT 变体,在鲁棒性和灵敏度方面实现了显著提高。
Oct, 2022
本文提出了一种适用于 Transformer 的鲁棒性验证算法,证明了其结果远优于 Interval Bound Propagation 算法,帮助理解了情感分析中不同单词的重要性。
Feb, 2020
本文介绍了一种新型的循环神经网络结构,可用于学习信号时间逻辑公式,并对公式推导方法进行了系统性比较。通过梯度下降训练神经网络,在不施加特定模板的情况下推导出公式结构和参数,可在实现类似分类误差率(MCR)的情况下发挥作用。研究人员还发现时间逻辑推断问题存在欠确定性。
Aug, 2022
本文提出了一种新的逻辑 PrSTL 作为表达随机性质和强制其概率保证的表现语言,并展示了如何使用这种逻辑对具有随机性质的智能物理系统进行控制器合成,其关键特点是适应性逻辑并随着系统遇到附加数据而变化,并通过合成多种情况下无人机和自主车辆的控制器来演示我们的方法。
Oct, 2015