Feb, 2024

基于人工智能的汽车应用软件元素具备的固有多样冗余安全机制

PDF
TL;DR通过研究自动驾驶系统中基于人工智能的算法，本文探讨了人工智能模型的作用和挑战，特别是在复杂和高维环境中执行实时关键功能的软件元素。针对安全关键应用，为了减少 AI 模型过于自信带来的风险，提出了一些培训方法，如实现确定性报告架构和确保多样性训练数据。此外，还讨论了现有方法在安全关键应用中的适用性，强调了其优点和局限性，并提出了提高自动驾驶车辆中人工智能算法安全性和可靠性的潜在改进措施。
artificial intelligenceautonomous driving systemsai modelssafety-critical applicationscertainty reporting architectures
发现论文，激发创造
  • 自主驾驶汽车中的机器学习安全实用解决方案

    本文讨论了自动驾驶汽车中的机器学习安全性问题，总结了一些实用的机器学习安全技术，以增强算法的可靠性和安全性，并讨论了机器学习组件的安全性限制和用户体验方面。

    Dec, 2019

  • 自动驾驶车辆安全性：基于模型与基于人工智能两种方法的调查

    本文调查研究自动驾驶汽车的安全性保障问题，重点关注控制架构、风险评估与管理策略、基于人工智能和基于模型的方法的研究，并探讨了安全保障技术和安全框架的标准化 / 概括方法。

    May, 2023

  • 构建可靠的深度学习系统

    介绍了人工智能技术的广泛应用和存在的问题，并提出了对 “AI 工程” 学科的需求，探讨了相关概念和需要解决的关键挑战。

    Oct, 2019

  • 构建安全可靠的用于安全关键任务的视觉与语言处理的人工智能系统

    AI 系统在各个领域取得了令人瞩目的成绩，然而其安全性和可靠性仍然是一个重要的关注点，特别是对于安全关键任务。本论文旨在通过进一步开发当前技术来确保安全关键任务的准确模型不确定性。

    Aug, 2023

  • 利用通讯技术实现人工智能安全算法的全面研究

    本研究旨在提供一份综合性的人工智能安全解决方案的最新技术发展情况，研究结果表明，人工智能在汽车工业的应用最为广泛，并且将继续增加对蜂窝通信技术的需求以提高系统的响应速度和可靠性。

    May, 2022

  • 系统安全和人工智能

    本章提出了七个防止人工智能系统造成伤害的课程，探讨了系统安全领域的见解，针对公共机构及基础设施中的新应用程序引发的新危害，阐述了诊断和消除新人工智能系统危害的共识缺失，并探讨了有效人工智能管理所需的跨学科方法和共享语言。

    Feb, 2022

  • 迈向保证安全的人工智能：确保强大可靠 AI 系统的框架

    通过世界模型、安全规范和验证器的相互作用，提出了一系列保证安全的人工智能（AI）方法，旨在为 AI 系统提供高保证的量化安全保证，并描述了核心技术挑战和潜在解决方案。

    May, 2024

  • 对危险驾驶场景的基于知识的逻辑的鲁棒性验证

    基于知识的逻辑从公共交通事故数据集中提取出了定义危险驾驶形式的知识，这对于识别交通危险非常关键，可以监督和改进安全关键系统中的人工智能模型。同时，我们使用自动验证方法验证了这种逻辑的健壮性。

    Dec, 2023

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023

  • 人工智能安全性的具体问题再探讨

    AI 安全的概念在社会中日益普及，AI 社区越来越关注 AI Safety 的概念，即防止在 AI 部署过程中系统行为意外偏离设计意图而导致的故障。通过分析真实案例，我们展示了当前的词汇虽然能够涵盖 AI 部署中遇到的一系列问题，但仍需要一个扩展的社会技术框架来更好地理解 AI 系统和实施的安全机制在现实生活中的成功与失败。

    Dec, 2023