Mar, 2024

基于科学的人工智能模型认证在未经培训的操作环境中的应用于交通状况估计

PDF
TL;DR基于科学的认证方法，该研究提出了在未经训练的操作环境中评估预训练数据驱动模型可行性的方法，通过深入整合领域知识和数据驱动的人工智能模型，利用物理和相关学科的理论和分析模型，提供安全可靠的工程系统的决策支持，以提高人工智能模型在限制训练数据和动态不确定条件下的可靠性和安全性。
artificial intelligencepre-trained modelsoperational environmentscertification methodologysafety-critical scenarios
发现论文，激发创造
  • 基于科学的人工智能模型认证在新的操作环境中的应用 —— 以交通状态估计为例

    通过科学认证方法研究在新的工作环境中使用预训练数据驱动模型的可行性，该方法结合领域知识、理论模型和物理学等学科，提供一种安全工程系统开发工具，通过模拟结果量化预训练模型的物理不一致性，以评估在新的工作环境中使用预训练模型的适用性。

    May, 2024

  • 通过数据融合获得可认证的人工智能

    该论文回顾和提出了在采用、推广和维护人工智能（AI）系统方面存在的问题，并使用设计和操作测试和评估过程，探讨了确定性能界限以管理预期用途的机会。该论文提供了一个假想案例，使用图像数据融合支持 AI 对象识别可证明性考虑精度与距离。

    Nov, 2021

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023

  • 何时相信 AI: 神经网络认证的进展与挑战

    人工智能正在快速发展，并已成熟用于许多应用领域，如自主系统、医学诊断和自然语言处理。本文概述了确保人工智能决策安全的技术，并讨论了未来的挑战。

    Sep, 2023

  • 不要信任，总是验证：可信 AI 的路线图？

    本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

    Jun, 2022

  • 构建可靠的深度学习系统

    介绍了人工智能技术的广泛应用和存在的问题，并提出了对 “AI 工程” 学科的需求，探讨了相关概念和需要解决的关键挑战。

    Oct, 2019

  • 基于固有安全设计和运行时错误检测的安全关键应用深度学习认证框架

    基于深度学习的认证在安全关键应用中是一个非常重要的问题，本文通过研究使用于航空等安全关键领域的实际问题，调查机器学习研究社区中针对深度学习系统鲁棒性和可靠性验证的方法学，并提出了一个新的基于安全设计和运行时错误检测的深度学习认证框架。

    Mar, 2024

  • 控制科学中人工智能潜在滥用的风险

    该研究旨在提高科学领域中人工智能滥用的危险，并呼吁在该领域中负责任地开发和使用人工智能。通过列举科学环境中人工智能带来的风险，并通过化学科学领域的实际滥用示例来展示这些风险，高亮显示了有效的风险管理策略的需求。为此，我们提出了一个名为 SciGuard 的系统来控制科学中人工智能模型的滥用风险，并提出了一个名为 SciMT-Safety 的红队基准来评估不同系统的安全性。我们的提议在评估中显示出最小的有害影响，并且在良性测试中不会影响性能。最后，我们强调了跨学科和合作努力来确保在科学中安全和道德地使用人工智能模型的需求。我们希望我们的研究能够激发研究人员、从业者、决策者和公众之间就科学中的人工智能的道德使用展开有建设性的讨论，以最大化利益，最小化滥用风险。

    Dec, 2023

  • 移动分析中因果推断的可解释性和鲁棒性机器学习视角

    本文总结了基于因果推论对深度学习进行的可解释性和稳健性研究的最新进展，强调了交通运输领域深度学习基础的可解释性和稳健性问题，并提出发展因果学习模型应用于移动性分析的机遇。

    Oct, 2022

  • 基于人工智能的汽车应用软件元素具备的固有多样冗余安全机制

    通过研究自动驾驶系统中基于人工智能的算法，本文探讨了人工智能模型的作用和挑战，特别是在复杂和高维环境中执行实时关键功能的软件元素。针对安全关键应用，为了减少 AI 模型过于自信带来的风险，提出了一些培训方法，如实现确定性报告架构和确保多样性训练数据。此外，还讨论了现有方法在安全关键应用中的适用性，强调了其优点和局限性，并提出了提高自动驾驶车辆中人工智能算法安全性和可靠性的潜在改进措施。

    Feb, 2024