- 你确定吗?分析面向实际语音情感识别的不确定性量化方法
使用简单的 UQ 方法,结合额外的 OOD 数据训练可以大大改善语音情感识别中因常见挑战如信号污染、语音缺失而导致的不确定性。
- 基于贝叶斯熵神经网络的物理感知预测
这篇论文介绍了贝叶斯熵神经网络(BENN),它是基于最大熵原理的框架,旨在对贝叶斯神经网络(BNN)的预测施加约束,以实现不确定性量化和约束满足,实验结果表明 BENN 在各种应用中展现出明显的改进,并展示了与当代约束深度学习方法相当的竞争 - 通过极端稀疏化物理约束神经网络模型,提高斯坦变分推理的性能
科学机器学习的应用中,$L_0$ 稀疏化优于直接应用 Stein 变分梯度下降 (SGVD) 或投影 SGVD 方法,具有更好的鲁棒性、计算效率和性能,并且在噪声环境、外推区域以及收敛速度方面表现出卓越优势。
- ConU: 具有正确性覆盖保证的大型语言模型中的符合不确定性
通过从预测集构建的置信度条件中整合正确性对齐的不确定性准则,本研究在自然语言生成任务中,将确定性预测转化为严格的理论保证,从而解决了最近大型语言模型中的异构不确定性问题,并利用抽样不确定性测量方法提高了先前最先进的方法。通过在模型的非固定答 - 大型语言模型中的凸包分析不确定性量化
该研究提出了一种新颖的几何方法来评估大语言模型(LLM)的不确定性,利用凸包分析来度量模型输出的离散度和可变性,该方法通过将回答转化为高维嵌入,并使用主成分分析(PCA)将其投影到二维空间。实验结果表明,LLMs 模型的不确定性取决于提示的 - 图神经网络上的等度连通预测
这篇论文介绍了一种无分布和无模型偏见的不确定性量化方法,用于构建基于 GNN 的链接预测的具有统计保证的预测区间,该方法在遵循幂律分布的图结构上显著提高了基线方法的有效性。
- 使用广义变分推断的动态贝叶斯网络的经验贝叶斯
通过经验贝叶斯方法学习动态贝叶斯网络的研究,使用数据驱动的先验获得模型以量化不确定性,结合广义变分推断的最新发展,表明了对 DAG 结构和参数后验的不确定性的采样的潜力。
- 分量可交换性的一致时间序列分解
本文提出了一种新颖的使用具有时间序列分解的符合预测时间序列预测方法,在每个分量上应用特定的符合算法,然后合并所得预测区间,以适应不同分量之间的不同可交换性情况。该分解方法在合成和现实数据上进行了详细讨论和经验评估,发现该方法对结构良好的时间 - 语义熵探针:在 LLMs 中稳健且经济的幻觉检测
我们提出了语义熵探针 (SEPs),这是一种在大型语言模型 (LLMs) 中用于量化不确定性的廉价可靠方法。
- 用 LM-Polygraph 为大型语言模型基准化不确定性量化方法
使用新的基准测试实现了对大规模语言模型在不确定性量化和归一化技术方面的评估,旨在解决其在文本生成任务中的不安全性和低质量输出等挑战。
- 预测全场材料响应中的不确定性的贝叶斯神经网络
基于机器学习的应力场预测和不确定性量化方法,以及对多样材料微观结构的系统比较和推断算法的不确定性估计。
- 用可解释的贝叶斯神经网络学习图结构
从平滑信号观测中的贝叶斯神经网络推断出的图结构学习以及不确定性量化可应用于数据结构不确定性至关重要的中小规模应用。
- 基于深度学习的置信区间和同时置信带
深度学习模型在各个领域显著提高了预测准确性,并在许多学科中得到认可。然而,有一个深度学习方面仍未充分解决的问题是预测不确定性的评估。本研究提供了一种有效的非参数自助法,能够正确区分数据不确定性和所采用的优化算法中固有的噪音,确保生成的逐点置 - 一种基于变分贝叶斯方法的高维线性回归中低维参数去偏推断
研究中提出了一种可扩展的变分贝叶斯方法,用于对稀疏线性回归中高维参数的一个单一或低维子集进行统计推断,通过对干扰坐标进行均场近似和谨慎地对目标的条件分布建模,只需要预处理步骤,保留了均场变分贝叶斯的计算优势,同时确保了对目标参数以及不确定性 - 适应性的分布变迁下的轨迹预测不确定性量化
本文提出了 CUQDS 框架,该框架旨在量化现有轨迹预测模型在数据分布转移下的预测轨迹不确定性,并在训练阶段考虑模型预测准确性的提高和估计不确定性的减少。
- 寻找分叉点的主动搜索
定位动力系统的分歧点对于深入理解观察到的动态行为以及设计高效干预手段至关重要。在复杂、可能存在噪声且采样成本高昂的动力系统中,我们提出了一种主动学习框架,利用贝叶斯优化从少量选择的矢量场观察中发现鞍点或者 Hopf 分歧。在资源有限的系统的 - $α$-SSC:基于摄像头的不确定性感知的 3D 语义场景补全
提出了一种考虑不确定性的基于摄像头的三维语义场景完成方法,同时提出了一种层次化的置信度预测方法,能够增强几何完成和语义分割准确性,提高安全关键类别的占用召回率,实现更小的预测集大小并保持指定的覆盖保证,为自主感知系统的准确性和鲁棒性带来显著 - 计量环境下的可信人工智能
国家物理实验室 (NPL) 在可信人工智能 (TAI) 领域进行的研究回顾,特别是在计量学,即测量科学的背景下,关于可信机器学习 (TML)。我们描绘了 TAI 的三个广泛主题:技术、社会技术和社会,这些主题在确保开发的模型可信且可以依赖于 - 灵活异方差计数回归与深度双泊松网络
神经网络可以准确地产生需要的、与输入相关的不确定性表示,这对现实世界的应用至关重要。最近在异方差连续回归方面取得的进展显示了在复杂任务(如图像回归)上进行校准的不确定性量化的巨大潜力。然而,当将这些方法应用于离散回归任务(如人群计数、评级预 - 普适微分方程中不确定性量化评估
科学机器学习是一类新的方法,它将物理知识和机械模型与数据驱动技术相结合,以揭示复杂过程的控制方程。本文提供了不确定性量化 (UQ) 的 UDE 的形式化,并研究了重要的频率派和贝叶斯方法。通过分析三个不同复杂度的合成示例,本文评估了集成、变