Feb, 2023

基于视觉的自主系统的闭环分析：以案例为例

PDF
TL;DR本文应用正式的概率分析技术对一种通过感知深度神经网络（DNN）引导飞机滑行的实验自主系统进行了案例研究，通过使用代表性图像数据集计算 DNN 的混淆矩阵来替换摄像机和网络，构建紧凑的概率抽象，以解决感知 DNN、传感器和环境条件的复杂性所带来的挑战，并展示了如何利用本地、DNN 特定的分析作为运行时保护，以提高整个系统的安全性。
deep neural networksformal probabilistic analysisautonomous systemsperception dnnssafety
发现论文，激发创造
  • 用于验证学习增强自主系统的假设生成

    介绍了一种利用自动综合假设的方法，对基于深度神经网络的自主系统的安全属性进行形式化验证，生成最弱的假设并将其用作运行时监视器以保证整个系统的安全性，在一个来自自主飞行器领域的复杂视觉感知 DNN 案例上实现了该方法。

    May, 2023

  • 利用深度神经网络的关键系统安全框架

    本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

    Mar, 2020

  • 运行时监测基于深度学习的感知

    深度神经网络在复杂感知系统方面起着重要作用，但为了确保其功能不足不会造成危害，除了静态验证和测试方法外，还需要运行时验证技术来检测关键事件、诊断问题并强制执行要求。本教程介绍了文献中提出的技术方法，包括机器学习界经典方法和形式方法界的一些技术，同时强调了严格设计监视器的重要性，其中操作域外的数据可用性起着重要作用。

    Oct, 2023

  • 计算机视觉中的人类感知

    本文研究计算机视觉、深度神经网络（DNN）、人类视觉感知和无体系结构视觉学习之间的联系，并发现 DNN 计算可用于估计感知损失，并与有趣的理论观点一致，即人类感知的特性是视觉学习无体系结构的结果。

    Jan, 2017

  • DeepTest: 深度神经网络驱动的自动驾驶汽车自动化测试

    本文介绍了 DeepTest，一个系统的测试工具，可以自动侦测潜在的导致致命碰撞的深度学习驱动车辆的错误行为，通过生成最大化激活神经元数量的测试输入，并利用现实世界变化的驾驶条件（例如雨、雾、照明条件等）来自动生成测试用例，能够发现许多在 Udacity 自动驾驶汽车挑战赛中，三个表现最佳的深度学习神经网络车中，具有潜在致命意外的错误行为。

    Aug, 2017

  • 基于深度神经网络的车辆图像分析：一项系统研究

    使用深度神经网络方法解决车辆检测和分类问题，提出了在限制数据集大小情况下，如何利用 DNN 进行车辆检测，哪些特征对于车辆分类有用，以及如何扩展模型到极端光照条件。所提出的方法表现优于现有方法，在光照条件极端的图像上取得了有希望的结果。

    Jan, 2016

  • 感知可视化：透过深度神经网络的视角看世界

    该论文的研究内容主要涵盖了人工智能、深度神经网络、可解释 AI、视知觉技术以及深度模型的调试等领域。论文提出的 Perception Visualization 技术通过可视化深度模型对于输入图像的感知来解释模型预测结果，研究发现人类能够更好地理解和预测系统决策，从而使深度模型的调试和部署更加可靠。

    Apr, 2022

  • 安全飞机滑行的跑道物体分类器的稳健性评估

    使用形式验证方法评估了一个用于飞机滑行阶段的图像分类器深度神经网络 (DNN) 在噪声、亮度和对比度以及它们的组合等三种常见图像扰动类型下的鲁棒性，结果表明该分类器对噪声比亮度和对比度扰动更加脆弱。

    Jan, 2024

  • 基于深度集成的自适应巡航控制的感知不确定性自动驾驶

    我们在这篇论文中开发了一个基于深度神经网络的集成回归器，用于自适应巡航控制中估计与前车的车头距离，并通过概率安全约束来实现跟踪速度和保持安全跟车距离的目标。

    Mar, 2024

  • 基于深度学习的计算机视觉在自动驾驶技术中的应用研究

    该研究探索了深度学习在自动驾驶计算机视觉技术中的应用及其对系统性能的改进影响。研究结果表明，深度学习技术可以显著提高自动驾驶系统的准确性和实时响应能力。尽管在环境感知和决策支持方面仍存在挑战，但随着技术的进步，预计未来能实现更广泛的应用和更大的潜力。

    Jun, 2024