机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

Sep, 2023

该论文探讨了人工智能的发展带来的挑战，提出了在系统、架构和安全方面的研究方向，以解决 AI 技术存储和处理数据量的限制，并提高数据隐私保护，以便这一技术能够更好地改善人们的生活和社会。

Dec, 2017

本文提出了一个基于现有进展的全面质量管理框架视角，并确定了软件工程研究的新领域，以实现更可靠的人工智能。

Jun, 2020

本文介绍了从强健性的角度出发，将维护人工智能（AI）的重要性与汽车保养做类比，提出了一种 AI 模型检查框架以检测和减轻其强健性风险，并通过对车辆自主性的借鉴，定义了强健性自动化的级别，以实现 AI 维护的各项功能，从而实现在 AI 生命周期过程中，进行强健性评估、状态追踪、风险扫描、模型加固和监管，这是构建可持续和值得信赖的 AI 生态系统的重要里程碑。

Jan, 2023

人工智能正在快速发展，并已成熟用于许多应用领域，如自主系统、医学诊断和自然语言处理。本文概述了确保人工智能决策安全的技术，并讨论了未来的挑战。

Sep, 2023

本文提出了一种新方法，支持自动化机器学习，帮助软件工程师在不需要深入了解人工智能的情况下，选择适当的机器学习模型、算法和技术以及适当的超参数来开发人工智能密集型系统，并进行智能能源领域的案例研究。

Mar, 2022

通过研究自动驾驶系统中基于人工智能的算法，本文探讨了人工智能模型的作用和挑战，特别是在复杂和高维环境中执行实时关键功能的软件元素。针对安全关键应用，为了减少 AI 模型过于自信带来的风险，提出了一些培训方法，如实现确定性报告架构和确保多样性训练数据。此外，还讨论了现有方法在安全关键应用中的适用性，强调了其优点和局限性，并提出了提高自动驾驶车辆中人工智能算法安全性和可靠性的潜在改进措施。

Feb, 2024

本书旨在提供人工智能发展的历史、潜力和局限性的现实图景，并介绍 AI 的各种应用领域及方法，其中重点覆盖了深度学习等当前人工智能的主流方法及技术，以及 AI 在人类情感智能等领域的应用，最后总结了当前 AI 的现状与未来发展趋势。

Jan, 2022

本文对基于人工智能技术的系统的可验证性与数据存在的偏差问题进行了讨论，并提出了可信 AI 所需满足的一些属性和模型。

Jun, 2022

机器学习（ML）是一种有效的人工智能（AI）技术，正在广泛应用于多个领域，作者通过对 163 篇科学文章的综述研究，系统地调查了深度学习（ML 技术之一）对硬件错误的弹性，明确阐述了这一文献流的优势和不足，并提出了未来的研究方向。

Sep, 2023