使用 PyTorchALFI 框架，引入了故障注入方法用于测试神经网络模型，包括定义测试场景、软件架构和分析测试结果等内容。

Oct, 2023

创建弹性机器学习系统对于确保生产就绪的机器学习系统并顺利获取用户信任已成为必要。输入数据和模型的质量对数据敏感系统的端到端测试成功具有高度影响。然而，与模型测试相比，输入数据的测试方法缺乏系统性且较少。为了填补这一空白，本文提出了一种基于故障注入技术的输入数据故障注入测试框架（FIUL-Data），该框架测试机器学习模型对多种故意引发的数据故障的弹性。数据变异器探索机器学习系统的脆弱性，针对不同故障注入效果。提出的框架基于三个主要想法设计：变异器不是随机的；在某个时刻应用一个数据变异器；事先优化选定的机器学习模型。本文使用来自分析化学的数据进行了 FIUL-Data 框架的实证评估，包括反义寡核苷酸保留时间测量。经验评估分为两个步骤进行，首先分析选定机器学习模型对数据变异的响应，然后对比彼此。结果显示 FIUL-Data 框架允许评估机器学习模型的弹性。在大多数实验情况下，较大的训练数据集上，机器学习模型表现出更高的弹性，在较小的训练集中梯度提升方法优于支持向量回归。总体而言，均方误差指标在评估模型弹性方面具有较高的敏感性。

Sep, 2023

通过将形式化方法和故障注入相融合，增强自主系统的可靠性，并通过这种更加紧密的联系，为安全可靠的自动化系统的开发铺平道路。

Nov, 2023

本文重点研究了 AI 安全的相关问题，通过 AI Incident Database（AIID）中的事件数据库来推断导致 AI 失败和损害的潜在和可能的技术因素，提出了一种涵盖多级因素的分类系统，并通过专家知识和社区反馈的流程，从而为事件着陆提供了涵盖着陆数据和人类专业知识的分类注释。

Nov, 2022

制造业中的深度学习模型的不透明性对故障检测和诊断构成了重要挑战。本文对可解释人工智能（XAI）的工具和技术进行了综述，探讨了各种 XAI 方法在增加人工智能决策透明度方面的作用，特别是在涉及人类的关键情景中。同时，我们还讨论了当前的局限性以及未来潜在的研究，旨在在改善信任度的同时平衡可解释性与模型性能，以应用于关键工业用例的人工智能应用。

Apr, 2024

机器学习（ML）是一种有效的人工智能（AI）技术，正在广泛应用于多个领域，作者通过对 163 篇科学文章的综述研究，系统地调查了深度学习（ML 技术之一）对硬件错误的弹性，明确阐述了这一文献流的优势和不足，并提出了未来的研究方向。

Sep, 2023

本文通过系统性文献综述的方式，对深度神经网络的可靠性评估方法进行了归纳总结，提出了故障注入、分析以及混合方法等三种可靠性评估方法，评估了这些方法的优缺点和应用场景，同时也指出了目前研究中存在的问题和挑战。

May, 2023

机器学习系统 accountability 评估方法 fail 特点系统 Pandora 优势。

Sep, 2018

研究如何解决机器学习系统中多个组件的分析流程中出现的问题，通过人力计算任务模拟潜在组件修复方案以改善系统整体行为，为设计师提供改进系统的指导，并在一个自动化图像字幕系统上演示了该方法的有效性。

Nov, 2016

介绍了计算系统杂交网络可能造成的几种潜在的伤害形式，探讨了这些潜在的伤害对不同利益相关方的影响，并提出了有效的伤害预防框架应该考虑包括计算系统特征、利益相关方和潜在伤害的广泛范围等在内的因素。

Nov, 2020