面向自动化系统安全评估的形式化故障注入
给出关于应用形式方法于自治系统领域的当前最新研究状态的概述，包括系统的合成、不确定性的概念、采用形式方法的学习系统的行为界限、系统的监测以及形式方法在强化学习、不确定性、隐私、可解释性、规制和认证方面的未来发展方向。
Nov, 2023
人工智能和大型语言模型的快速发展使其融入各个领域，尤其是在人工智能生成的内容方面显著提高了能力。本研究通过系统分析 160 篇论文和资料库，对人工智能系统六个层面上现有的故障分析和故障注入方法进行了综述，探讨了目前 AI 系统存在的故障、当前故障注入工具能够模拟的故障类型，以及模拟故障与真实故障之间的差距。此外，本综述为故障诊断提供了一个框架，评估了故障注入技术的最新进展，同时也识别出了提升 AI 系统韧性的改进领域。
Jun, 2024
通过探讨与保障支持因为设计而参数要求（例如安全性、安全性和可靠性）的合规性的确证缺陷检测、模式依赖以改善确证方案结构、改进现有确证方案符号以及（半）自动化确证方案生成等方面的挑战，提出了一些可能的解决方向。
Jan, 2024
通过检查以测试为基础的验证和验证作为最实用的方法，并总结当前先进的方法学，在确保学习能力的 CPS 的形式安全方面，确定了当前测试方法的局限性，并提出了从基础概率测试过渡到更严格方法的路线图，以提供正式保证。
Nov, 2023
为确保自动驾驶系统的安全运行，该研究引入了因果查询的正式化，建立了抽象的安全原则，从而降低与关键影响因素相关的临界性，并对数据采集、模型质量等方面做出了贡献。
Oct, 2022
本文提出了一种基于形式化方法的智能汽车自动场景测试的新方法，结合仿真和实际测试，并通过实验验证形式化仿真可以有效识别可在跑道上运行的测试用例，仿真和真实世界之间的差距可以得到系统评估和弥合。
Mar, 2020
机器人系统是多维实体，包括硬件和软件，与现实世界的相互作用密切相关，因此需要结合各种形式化方法来开发、验证和提供认证证据，而机器人学是一个理想的催化剂来推动集成形式方法研究的发展，使其朝着新的、令人兴奋的方向发展，并揭示大规模、动态、复杂系统的发展。
May, 2018
本研究针对安全关键应用领域，提出了针对 CPS 系统进行模拟测试的安全验证技术。文中归纳了针对优化、路径规划、强化学习和重要性采样等技术进行的算法改进，并介绍了用于应对 CPS 软硬件状态空间巨大的问题分解技术。此外，本研究对自动驾驶汽车和飞行器防撞系统等领域的安全验证工具进行了总结。
May, 2020
本文介绍了 2022 年第四届自主系统形式化方法国际研讨会（FMAS 2022）和第四届自动化和可验证软件系统开发国际研讨会（ASYDE 2022）的联合论文集。该研讨会目的在于汇聚使用形式化方法解决自主系统所带来独特挑战的研究者，探讨在形式化方法在自主和 / 或机器人系统中的应用。该主题涵盖了自主系统、软件开发、验证、协同物理以及工业应用等方向。
Sep, 2022