神经网络的近似双模拟关系及其在可保证神经网络压缩中的应用
本文介绍了一种神经网络压缩技术方法,建立了一个混合神经网络,由一个前馈神经网络和其量化版本组成,通过优化和可达性分析方法计算了保证的量化误差。 数值例子验证了该方法的适用性和有效性。
Apr, 2023
本文提出了一种使用状态量化和反向可达性验证无人机收发器 ACAS Xu 系统闭环逼近的技术,以验证系统的安全性,并发现了该系统在真实情况下存在碰撞的情况。
Jan, 2022
本文提出了一种神经网络模型减缩的方法,通过精确计算模型减缩精度,将减缩后的神经网络控制器替换成封闭回路系统,进而提高安全验证的计算效率,并通过自适应巡航控制系统的案例验证了方法的有效性。
Jan, 2023
我们介绍了一种基于数据驱动的方法来计算具有非常大,可能是无限状态空间的状态转换系统的有限双模拟。我们的新技术计算确定性系统的阻塞不敏感的双模拟,我们将其描述为学习状态分类器与每个类的排名函数的问题。我们的方法从一个有限的样本状态数据集中学习候选状态分类器和候选排名函数;然后,它使用可满足性模理论求解检查这些是否推广到整个状态空间。如果得到肯定答案,该过程得出结论,该分类器构成了系统的有效阻塞不敏感的双模拟。如果得到否定答案,求解器会生成一个反例状态,该状态违反了该分类器的断言,将其添加到数据集中,并在反例引导的归纳合成循环中重复学习和检查,直到找到有效的双模拟。我们在反应性验证和软件模型检查的一系列基准测试中展示了我们的方法在实践中优于其他最先进的工具的更快验证结果。我们的方法产生简洁的抽象,使得能够有效地验证不包含下一个运算符的线性时态逻辑,并且对于系统诊断具有解释能力。
May, 2024
本研究提出了一种通过使用过度逼近来减小神经网络规模,以提高神经网络验证技术的框架,并使用反例引导调整逼近,以验证大型神经网络。实验证明,该方法对验证大型神经网络具有很大的潜力。
Oct, 2019
我们提出了一种基于两个神经网络的等价评估的修复压缩前馈神经网络的方法,通过计算两个神经网络之间的输出差异来刻画由压缩过程产生的输出差异,并使用这个差异来初始化一个新的训练集以减小神经网络间的差异并提高压缩网络的性能,然后通过重新训练该训练集来修复压缩前馈神经网络,并在 MNIST 数据集上应用我们提出的修复方法来展示其有效性和优势。
Feb, 2024
对量化神经网络的复杂度进行了深入研究,表明要达到近似误差边界的目标,量化网络所需的权重数量不超过未量化网络的 $log^5 (1/ɛ)$,支持量化技术的经验成功。
Feb, 2018
该论文提出了一种基于规范引导的安全验证方法,针对具有一般激活函数的前馈神经网络进行验证,使用区间分析方法进行计算,并开发了一个高效的算法来完成安全验证,实验结果表明该方法具有更高的效率和更少的计算代价。
Dec, 2018
为高维自主系统提供行为保证是人工智能安全领域中的一个特别具有挑战性的问题。本文提出了一个基于主动学习、不确定性量化和神经网络验证的新方法,其中的核心是一种称为不精确神经网络的集成技术,它提供了用于引导主动学习的不确定性。通过在多个物理模拟器上对经过增强学习的控制器进行评估,证明了我们的方法可以为高维系统提供有用且可扩展的保证。
Aug, 2023
本研究探讨了在深度学习中通过将关系和感觉信息分隔,以及引入归纳偏差来改善系统的推理性能,并提出了基于相似性分数的简单架构 -- Compositional Relational Network (CoRelNet), 增强了模型的鲁棒性,提高了关系计算的分布外泛化能力。
Jun, 2022