人工智能中的总不确定性推广:理论研究
本文阐述了实现基于不确定性意识的人工智能和机器学习系统在决策支持中的必要性及其面临的挑战,并介绍了当前令人看好的研究方向。通过理论模拟,展示了两种新兴的不确定性意识机器学习和人工智能技术的集成对路径规划操作的价值。
Sep, 2018
本文介绍了一种补充的透明度形式——估计和传达模型预测的不确定性,探讨了如何使用不确定性来缓解模型的不公平性、增强决策制定,并在现有机器学习管道中集成不确定性所需的信息。
Nov, 2020
提出了一个概念框架来描述和管理人工智能-大数据环境中价值的多样性和不确定性,并基于抽象和高度可伸缩的定义来设计框架,以支持商业智能评估人工智能-大数据项目的影响。
Oct, 2021
本文从数据分布和不确定性的角度提出了一个分析AI系统的框架,并通过大规模实验和深入调查达成了几个对更深入研究 AI 系统的需求和机会的关键发现。
Dec, 2022
对于当前(和预期的)人工智能工具存在的一种新风险进行了研究。我们在进行未来行动的有效决策时需要进行不确定性推理,这对许多关键实际问题至关重要。面临这一挑战,对于辅助决策者的人工智能工具(如LLMs)的需求不断增长。然而,我们目前对于LLMs在此方面的能力尚不充分理解,且在基本计算爆炸和深层不确定性约束下,其性能无法保证。该报告阐述了RUU对人类和机器都具有挑战性的原因,并将这些困难与潜在的人工智能时间表和能力联系起来。我们揭示了这种潜在的误用风险如何与更广泛的基本结构风险相连接,从而产生非线性的危害。报告还提供了一个解决方案路线图,针对问题结构中的多个影响点进行了建议。这包括对所有相关方(潜在用户、开发人员和决策者)的建议,并融入了关于深度不确定性下的决策制定和复杂系统理论的见解。我们认为,该报告不仅提高了人们对当前一种新的人工智能风险的认识,并通过说明其相互关联性如何伪装其存在来增强其潜在影响的认识,从而起到了减轻和纠正的作用。
Jan, 2024
机器人学中的不确定性一直是一个关键领域的研究,特别是在机器人配备了分析模型时。随着我们逐步推广使用在研究环境中表现出色的深度神经网络的机器人,了解不确定性的细微差别对于它们在现实世界中的部署变得至关重要。本指南提供了关于不确定性重要性的概述,并从应用的角度提供了量化和评估它的方法。
May, 2024
该研究解决了人工智能在关键场景下应用时的信任问题,尤其是AI系统预测的可靠性不明确。本文提出了一套评估AI预测不确定性的工具,强调了自我评估的影响,并提供了选择和设计适当方法的指导。研究表明,该方法在国家利益相关情境中显示出显著的实用性,有助于优化决策结果。
Aug, 2024
本研究解决了欧盟人工智能法案中通用人工智能的不确定性估计问题,指出其在技术标准和合规解决方案中的重要性。文章提出不确定性估计作为确保模型法律合规和质量控制的有效措施,并强调尽管其提升了计算复杂性,但在满足透明度、准确性和可信度方面具有潜在的积极影响。
Aug, 2024