- 超扩散:利用单一模型估计认知和随机不确定性
通过训练和样本采集大量扩散模型的集合来准确估计表观不确定性(可以通过更多的训练数据来减少的不确定性)和内在不确定性(与手头任务相关的不确定性)在将机器学习(ML)应用于医学影像和天气预报等高风险应用的过程中至关重要。而在模型架构复杂性增加时 - 用语言模型区分可知与不可知
通过大型语言模型中的线性探针和无监督方法,研究确定性认知不确定性与随机认知不确定性的可行性,为多样化实际场景中模型置信度提供更详细的指标。
- 应用 Dempster-Shafer 理论处理共同分析中的认识不确定性
该论文提出了一种对连接数据消息中的认知不确定性进行建模以及根据碰撞概率的置信度对连接事件进行分类的方法,该方法基于证据的 Dempster-Shafer 理论,假设观测到的连接数据消息来自于一组未知分布,利用 Dvoretzky-Kiefe - 贝叶斯半结构子空间推断
通过子空间推理为半结构化回归模型提供贝叶斯近似,解决了考虑认知不确定性的问题,并展示了卓越的预测性能。
- 物理约束卷积神经网络用于时空偏微分方程的逆问题
提出一种物理约束卷积神经网络 (PC-CNN) 来解决非线性、时空变化的偏微分方程 (PDE) 逆问题,演示 PC-CNN 在处理空间可变的拟偏误数据、重构高分辨率空间解以及分析纳维 - 斯托克斯方程的表现。
- 统一的不确定性感知探索:结合认知和随机不确定性
我们提出了一种基于分布式强化学习的算法,通过估计参数化回报分布来统一估计 aleatory 和 epistemic 不确定性,并量化两种不确定性的综合效应以实现风险敏感的勘探。实证结果表明,我们的方法在具有勘探和风险挑战的任务中优于替代方法 - 生成后验网络用于近似贝叶斯认知不确定性估计
生成后验网络(GPN)是一种新方法,利用未标记的数据来估计高维问题中的认识不确定性。它是一种生成模型,通过对网络进行正则化以从先验中采样,直接逼近后验分布。理论上证明我们的方法确实逼近了贝叶斯后验,并且实验证明它在比较方法上改进了认识不确定 - AdamMCMC:结合 Metropolis 调整 Langevin 和基于动量的优化
本文介绍了一种通过从温度后验分布的蒙特卡洛抽样来量化认识不确定性的新算法,该算法通过结合良好建立的 Metropolis Adjusted Langevin 算法(MALA)和基于 Adam 的动量优化,并利用一个椭圆提案分布,高效地从后验 - AAAIAIXI 智能体的动态知识注入
通过引入一个名为 DynamicHedgeAIXI 的新代理实现对 AIXI 的贴切逼近,通过使用一种时间自适应优先级构建的贝叶斯混合模型,该代理在表示动态变化的模型集合时表现出良好性能,实验证实该代理在传染病控制方面的实际效用。
- 基于不确定性的公平度量
通过引入基于不同类型的不确定性,即不确定性度量和主观不确定性度量,证明了不确定性度量在公平性评估中的补充作用,并提供了关于导致偏见的潜在问题的更多见解。
- 多轴融合增强 MR 图像转换中的不确定性估计
我们提出了一种新的模型不确定性量化方法 MAF,该方法依赖于从体积图像数据的多个视图中获得的互补信息的集成,应用于 3D 医学图像到图像转换的认知不确定性估计,并在合成对比增强的 T1 加权影像上应用。
- 透过输入澄清集成对大型语言模型的不确定性进行分解
本文介绍了一种用于大型语言模型的不确定性分解框架,称为输入澄清集合,可提供准确可靠的不确定性量化,改进了大型语言模型的可靠性、可信度和可解释性。
- 基于满射正则化流的不确定性量化和外样本检测
通过使用满射规范化流方法,在深度神经网络模型中计算单次前向传播,可可靠地识别来自分布之外的数据集。该方法基于深度不确定性量化和正则化流中的最新进展,应用于合成数据集并与其他模型进行比较,表明满射流模型是可靠区分分布内外数据的关键组成部分。
- 基于上下文的生成模型用于飞机地面轨迹预测
该研究提出了一种概率机器学习的生成方法,用于侧面轨迹预测,旨在建模来自飞行员行为和空中交通管制员意图的认知不确定性对轨迹的影响,探索了不同模型中贝叶斯神经网络与拉普拉斯近似的概率方法在模拟飞机通过空域的流量方面的可行性。
- 基于价值分布的模型化强化学习
基于模型的贝叶斯强化学习视角,本研究旨在学习马尔科夫决策过程中基于参数(认知)不确定性引发的值函数后验分布的不确定性,通过引入一个 Bellman 算子,我们提出了 Epistemic Quantile-Regression (EQR) 算 - 不确定性中测试数据敏感性的信息论分析
Bayesian inference 中的不确定性推断及其分解方法的研究。首次定义了测试数据和训练数据之间的敏感性,并扩展了 Bayesian meta-learning 的分析。
- 随机集卷积神经网络(RS-CNN)用于认知深度学习
本文提出了一种基于随机集的深度学习方法 RS-CNN,通过预测置信函数而非概率向量,估计模型对于其预测的正确程度和可能出现的误差,从而更好地处理机器学习领域中的不确定性和对抗性攻击。
- 对抗模型下不确定性的量化
利用对抗模型量化不确定性提高估计认知不确定性的准确性,相较于现有方法,Quantification of Uncertainty with Adversarial Models 能够更好地捕捉深度学习模型中的认知不确定性。
- 安全的基于模型的多智能体均场强化学习
本研究提出了 Safe-M3-UCRL 算法,使用平均场强化学习来为大量智能体寻找优化方法,并且可以在面临未知转换动态时实现建模优化问题,保证悲观约束条件的满足。在这个基础上,我们以共享代步交通问题为例进行了模拟评估,结果表明,该算法在保证 - ICML受物理约束的随机森林用于湍流模型不确定性估计
为了实现工业设计的虚拟认证,本文阐述了一种以物理约束为基础来解决湍流模型认识不确定性的方法,通过数据驱动的机器学习策略来消除用户输入,并关注在数据不足时开发先验估计的预测置信度。