从数据分布和不确定性的角度探讨人工智能系统风险评估的初步研究

Dec, 2022

从数据分布和不确定性的角度探讨人工智能系统风险评估的初步研究

An Exploratory Study of AI System Risk Assessment from the Lens of Data Distribution and Uncertainty

Zhijie Wang, Yuheng Huang, Lei Ma, Haruki Yokoyama, Susumu Tokumoto...

TL;DR本文从数据分布和不确定性的角度提出了一个分析 AI 系统的框架，并通过大规模实验和深入调查达成了几个对更深入研究 AI 系统的需求和机会的关键发现。

Abstract

deep learning (DL) has become a driving force and has been widely adopted in many domains and applications with competitive performance. In practice, to solve the nontrivial and complicated tasks in real-world applications, DL is often not used standalone, but instead contributes as a

deep learning risk assessment neural networks ai systems uncertainty

发现论文，激发创造

探讨高水平人工智能的差异化风险和控制问题

本文使用分层复杂系统框架对人工智能（AI）风险进行建模，并从公共和私营领域的领域专家收集调查数据以分类 AI 影响和可能性，结果显示强大的 AI 代理情景有更多不确定性，对 AI 对齐失败和影响寻求行为的关注增加以及对多智能体环境的信心增强。

Nov, 2022

机器学习与深度学习中不确定性的文献综述

该研究综述了机器学习中不确定性的来源、分类和度量方法，并讨论了不确定性对决策过程的影响。重点关注深度学习领域，提供了广泛范围的不确定性讨论和深度学习中的不确定性量化方法的最新综述。

Jun, 2024

深度神经网络硬件可靠性评估方法的系统文献综述

本文通过系统性文献综述的方式，对深度神经网络的可靠性评估方法进行了归纳总结，提出了故障注入、分析以及混合方法等三种可靠性评估方法，评估了这些方法的优缺点和应用场景，同时也指出了目前研究中存在的问题和挑战。

May, 2023

利用深度神经网络的关键系统安全框架

本文提出了一个基于贝叶斯分析的安全性论据框架，该框架使用运行数据和最新的深度学习验证技术，支持多种形式的预测，并针对实际的关键系统进行了建模和验证。

Mar, 2020

可靠的临床 AI 解决方案：深度学习模型中的不确定性量化在医学图像分析中的统一综述

该综述回顾了现有的用于量化深度学习模型预测不确定性的方法，并着重关注了医学图像分析中特有的挑战、评估方案以及不确定性量化在医疗领域中的开放性挑战。

Oct, 2022

科学和深度学习中的可靠性与解释性

通过深入的认识深度神经网络模型与传统科学模型之间的差异以及对可靠性评估可能产生的影响，本文强调了模型的假设的普遍作用和认识复杂性与可解释性之间的紧密关系，并提出了一些潜在的解决途径。

Jan, 2024

边缘机器学习中的数据质量：现状调研

数据驱动的人工智能系统和机器学习对我们的生活产生了巨大的影响，然而在边缘计算和物联网设备的环境下，数据质量的研究变得异常重要和紧迫。本文填补了这一领域的知识空白，提供了全球范围内从多个学科角度探讨边缘计算中数据质量的现有文献，并探讨了各个维度的详细内容和现有解决方案。

Jun, 2024

深度学习应用的弹性：分析和强化技术的系统调查

机器学习（ML）是一种有效的人工智能（AI）技术，正在广泛应用于多个领域，作者通过对 163 篇科学文章的综述研究，系统地调查了深度学习（ML 技术之一）对硬件错误的弹性，明确阐述了这一文献流的优势和不足，并提出了未来的研究方向。

Sep, 2023

深度学习系统的安全弱点和漏洞

通过对 AI 软件系统中深度学习技术的脆弱性进行系统研究，我们提出了一个两流数据分析框架，探索各种数据库中的脆弱性模式，并进行了大规模实证研究来理解脆弱性的模式和修复中的挑战，以推进安全的深度学习系统的发展。

Jun, 2024

仪器与控制系统中集成的机器学习方法的动态模型无关可信度评估

通过将数据监督引入机器学习预测模型，我们提出了一种实时模型无关的方法，评估机器学习预测的相对可靠性，并通过针对操作数据集与训练数据集之间的差异来计算预测的相对可靠性，用以支持机器学习预测在常规插值任务中的可信度。

Aug, 2023