人工智能正在快速发展，并已成熟用于许多应用领域，如自主系统、医学诊断和自然语言处理。本文概述了确保人工智能决策安全的技术，并讨论了未来的挑战。

Sep, 2023

介绍了人工智能技术的广泛应用和存在的问题，并提出了对 “AI 工程” 学科的需求，探讨了相关概念和需要解决的关键挑战。

Oct, 2019

该论文探讨了人工智能的发展带来的挑战，提出了在系统、架构和安全方面的研究方向，以解决 AI 技术存储和处理数据量的限制，并提高数据隐私保护，以便这一技术能够更好地改善人们的生活和社会。

Dec, 2017

通过科学认证方法研究在新的工作环境中使用预训练数据驱动模型的可行性，该方法结合领域知识、理论模型和物理学等学科，提供一种安全工程系统开发工具，通过模拟结果量化预训练模型的物理不一致性，以评估在新的工作环境中使用预训练模型的适用性。

May, 2024

基于科学的认证方法，该研究提出了在未经训练的操作环境中评估预训练数据驱动模型可行性的方法，通过深入整合领域知识和数据驱动的人工智能模型，利用物理和相关学科的理论和分析模型，提供安全可靠的工程系统的决策支持，以提高人工智能模型在限制训练数据和动态不确定条件下的可靠性和安全性。

Mar, 2024

本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

Jun, 2022

研究旨在提高人工智能系统的可信度和信任度，开发能够适应实际应用场景的人工智能系统，并将人类放在其中心地位，使其能够有效地使用系统，理解输出和解释结果以满足监管委员会的要求。

Jan, 2020

机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

Sep, 2023

本文从形式方法的角度考虑了 “可验证的人工智能” 这一目标。描述了实现可验证人工智能所面临的五个挑战及相应的五个解决原则。

Jun, 2016

在工业 4.0 中，网络物理系统 (CPS) 产生大量数据，可以被人工智能 (AI) 用于预测维护和生产计划等应用。然而，尽管已经证明了 AI 的潜力，但其在制造业等领域的广泛应用仍受限。本文通过综合审查最近的文献、标准和报告，确定了一些关键挑战：系统集成、数据相关问题、管理与劳动力有关的问题以及确保可信 AI。定量分析突出了实践者需要重视但尚需学术界进一步研究的特定挑战和主题。本文简要讨论了这些挑战的现有解决方案，并提出了未来研究的方向。我们希望这项调查能够成为评估 CPS 中应用 AI 的成本效益影响的从业者资源，也能够帮助研究人员解决这些紧迫问题。

May, 2024