本章探索了机器学习（ML）中鲁棒性的基本概念及其在建立可信人工智能（AI）系统中的关键作用。讨论从详细定义鲁棒性开始，描绘了 ML 模型在各种意外环境条件下保持稳定性能的能力。通过不同视角剖析 ML 鲁棒性：与泛化能力的互补性，作为可信 AI 的要求，对抗性与非对抗性方面，定量评价指标，以及可重复性和可解释性等指标。本章深入探讨了影响鲁棒性的因素，如数据偏差、模型复杂性和不规范的 ML 流程的陷阱。从广泛的角度调查了鲁棒性评估的关键技术，包括对抗性攻击，包括数字和物理领域。它还涵盖了非对抗性数据转移和深度学习（DL）软件测试方法的细微差别。讨论进一步探索了增强鲁棒性的改进策略，从以数据为中心的方法如去偏和增强开始。进一步的研究包括各种以模型为中心的方法，如迁移学习、对抗训练和随机平滑等。最后，讨论了训练后方法，包括集成技术，修剪和模型修复，作为提高模型对不可预测因素的适应性的经济有效策略。本章强调现有方法对 ML 鲁棒性的估计和实现所面临的挑战和局限性，并为未来关于这一关键概念的研究提供了洞见和方向，作为可信 AI 系统的先决条件。

Apr, 2024

本文通过系统性文献综述的方式，对深度神经网络的可靠性评估方法进行了归纳总结，提出了故障注入、分析以及混合方法等三种可靠性评估方法，评估了这些方法的优缺点和应用场景，同时也指出了目前研究中存在的问题和挑战。

May, 2023

ML 在安全性方面存在漏洞，提出威胁模型并对攻击进行分类，探究了模型准确性与抗敌对操作的关系。

Nov, 2016

介绍了人工智能技术的广泛应用和存在的问题，并提出了对 “AI 工程” 学科的需求，探讨了相关概念和需要解决的关键挑战。

Oct, 2019

本研究回顾了深度学习的鲁棒性问题，尤其是从近似理论到统计学习理论的关注和尝试，并回顾了贝叶斯深度学习作为不确定性量化和严格可解释性的一种手段。

Jul, 2023

本文介绍了从强健性的角度出发，将维护人工智能（AI）的重要性与汽车保养做类比，提出了一种 AI 模型检查框架以检测和减轻其强健性风险，并通过对车辆自主性的借鉴，定义了强健性自动化的级别，以实现 AI 维护的各项功能，从而实现在 AI 生命周期过程中，进行强健性评估、状态追踪、风险扫描、模型加固和监管，这是构建可持续和值得信赖的 AI 生态系统的重要里程碑。

Jan, 2023

本综述从模型层、架构层、电路层和交叉层等不同角度，全面调查故障容错深度学习设计方法，以应对深度学习在自动驾驶和机器人等关键领域的可靠性挑战。

Apr, 2022

该研究提出了一个综合评估机器学习系统可靠性的方法，侧重考虑诸如敌对攻击、性能下降以及算法技术等方面的问题，并对 500 多个模型进行了分析，为未来的研究和发展提供了指导。

Jul, 2023

介绍机器学习和深度学习技术在医疗保健的应用及相应的安全和隐私挑战，并提出了相关方法以确保医疗保健应用中的安全和隐私保护。

Jan, 2020

本文探讨了机器学习在电力系统中的安全性问题，并指出目前大多数算法容易受到对抗性输入数据的攻击，因此需要设计更加健壮和安全的算法。

Aug, 2018