综合研究开放环境下机器学习的未知拒绝、新类别发现和类别自适应学习等方面，探讨了当前方法的挑战、原则和限制，以及未来研究的潜在方向。旨在全面介绍新兴的开放环境机器学习范式，帮助研究人员在各自领域构建更强大的人工智能系统，并促进人工通用智能的发展。

Mar, 2024

本文针对开放世界机器学习系统，测试其在各种条件下的可靠性，并发现在组件的选择方面，包括原始数据、模型体系结构和 OOD 数据等选择均严重影响 OOD 检测的性能，可能引起超过 70％的误检率，而对于包含 22 种非故意损坏或对抗性扰动的 OOD 输入，误报率可以达到 100％，并提出了结合鲁棒分类器和 OOD 检测技术来解决 OOD 检测和适应性之间的新的权衡。

Jul, 2020

在开放世界中，我们介绍了一个适应新颖性的规划领域模型的方法，通过检测行动执行的观察值和环境模型的预期值之间的差异来推断新颖性的存在，并通过启发式导向的模型改变搜索来修订模型。我们在标准的强化学习基准 CartPole 问题上进行实证评估，结果表明我们的方法可以快速且可解释地处理一类新颖性。

Mar, 2023

这篇论文提出了一个开放世界模型和元特征系统，专注于在新旧世界之间的客观特征分布差异的基本识别，并通过元特征的牵引力实现了对新旧世界中学习能力的量子隧穿效应。该模型在学习新知识方面表现出色（以行人重识别数据集为例），最高可达 96.71％的准确度，并获得了类似于人类的探索新知识的能力。

Nov, 2023

该论文提出了一个理论框架来推动构建自我发起的开放世界学习（SOL）代理的研究，讨论和解决了在实现完全自主可学习代理方面的挑战，特别是如何自动化地检测未知的情况或新奇情况，并适应或调整代理以从中学习，提高代理的适应能力和任务性能。

Oct, 2021

本文使用分层复杂系统框架对人工智能（AI）风险进行建模，并从公共和私营领域的领域专家收集调查数据以分类 AI 影响和可能性，结果显示强大的 AI 代理情景有更多不确定性，对 AI 对齐失败和影响寻求行为的关注增加以及对多智能体环境的信心增强。

Nov, 2022

研究人员通过发展人工智能技术，努力缩小机器智能与人类之间的差距，迫切意识到信任度在无所不在的开放世界中的重要性。本文探讨了一种神经程序，以在单模态和多模态场景下，从设计可解释性、环境福祉任务界面和开放世界识别程序角度增强各种可信赖属性，以及在开放世界多媒体识别场景中观察到的显著性能改进。

Aug, 2023

使用深度生成的世界模型来预测自主代理系统的完整轨迹，从而解决世界系统中存在的各种不确定性问题。

Feb, 2023

本研究主要关注序列决策算法中的不确定性和风险问题，通过探索规划和强化学习两种方法，尤其是面向基于模型算法的研究，旨在缓解 epistemic 和 aleatoric 不确定性问题。

Apr, 2023

我们引入了一种简单而有效的方法来管理基于模型的强化学习中的风险，该方法使用了概率安全约束、在确知不确定性面前的乐观和在事件性不确定性面前的悲观以及一组随机神经网络的平衡。各种实验证明，不确定性的分离对于在不确定和安全关键的控制环境中使用数据驱动的 MPC 方法表现良好是至关重要的。

Sep, 2023