- SEMF: 监督的期望最大化框架用于预测区间
该研究介绍了监督期望最大化框架(SEMF),这是一个多功能且不涉及具体模型的框架,可以为具有完整或缺失数据的数据集生成预测区间。SEMF 将经典的无监督学习中使用的期望最大化(EM)算法扩展到监督环境中,实现了提取不确定性估计的潜在表示。该 - 利用蒙特卡洛任意掩蔽法提高医学图像重建的全局敏感度和不确定性量化
提出了一种使用 MambaMIR 和 MambaMIR-GAN 进行医学图像重建和不确定性估计的方法,通过 Arbitrary-Masked Mamba-based 模型和波尔塔斯转换结合,实现了最佳的重建保真度和感知质量。
- 层次中间预测的过渡不确定性
研究单次通过不确定性估计的特征工程,提出了一种名为 TULIP 的简单方法,通过在后续层折叠信息之前从中间表示中提取特征以实现特征保留,并在标准基准和实际环境中与当前的单次通过方法相匹配或优于其性能。
- 不确定性评估的模型平均信任包装器在异常检测中的应用
本文提出了一种创新方法,称为 “信任套件”,用于模型平均的贝叶斯神经网络(BNN)和深度集成的置信区间表示,能够提高分类任务中的不确定性估计。
- 通过多个查询在闭源模型中进行不确定性估计的方法:只需旋转!
我们提出了一种简单而有效的方法来估计闭源深度神经网络图像分类模型的不确定性。通过创建多个转换版本并使用它们来查询闭源模型的顶级预测,我们的方法能够在不确定性估计方面显著提高校准度。通过实证结果和直观的理论分析,我们阐明了自然转换优于高斯噪声 - 通过多个重新表述的查询来估计封闭源语言模型中的不确定性
通过多次重新表述原始基本查询以估计封闭源语言模型的不确定性,来提高模型的不确定性校准,并为优化测试校准设计查询策略提供直观指导。
- 图神经网络的条件偏移鲁棒一致性预测
使用符合预测(conformal prediction)技术,此论文提出了一种用于解决图半监督学习中图神经网络(GNN)预测不确定性问题的方法,该方法还引入了一种新的损失函数来优化模型预测,并在标准图基准数据集上进行了验证。
- 层次化的选择性分类
部署深度神经网络用于风险敏感任务需要一个不确定性估计机制。本文介绍了分层选择分类,将选择分类扩展到分层环境中。我们的方法利用类别关系的固有结构,使模型在面临不确定性时减少其预测的特异性。本文首先形式化了分层风险和覆盖,并介绍了分层风险覆盖曲 - 用于太阳丝的极性倒转线重建的机器学习
通过机器学习模型基于太阳丝状物观测生成变化的磁极性图,使用 McIntosh 编制的太阳丝状物和极性地图目录进行评估和结果讨论,展示了用户引导下的重建或超分辨过程可以得到与手绘极性地图相似且能进行不确定性评估的结果。
- ICML通过基于代理的不确定性估计来改进语言模型的指令遵循
我们提出了一种新颖的具有不确定性感知的奖励模型(URM),通过贝叶斯近似法对配对响应的质量进行稳健的不确定性估计,从而解决了评估语言模型中指令响应质量的问题。实验结果表明,将提出的代理方法纳入语言模型训练对指令遵循能力有显著提升,通过改进数 - 微型深度集成:通过共享权重对标准化层进行集成以实现边缘 AI 加速器中的不确定性估计
本文提出了一种适用于边缘设备的低成本方法 ——Tiny-Deep Ensemble 方法,用于不确定性估计。该方法通过进行多次归一化层集成而不需要额外的存储空间和延迟,从而显著降低了存储需求和延迟,同时保持了与单模型相近的内存开销,并在各种 - ICML多实例不确定性估计的弱监督残余证据学习
在高风险场景中,不确定性估计作为量化预测不确定性的有效手段,在安全可靠的决策中至关重要。然而,现有的不确定性估计方案通常假设存在完全标记的样本来支持全监督学习。实际上,许多不确定性估计任务往往缺乏足够标记的数据,如仅具有弱实例注释的多实例学 - 信息论视角下的符合预测
本研究利用信息论来将符合预测与其他不确定性概念相联系,并证明了三种不同的方法来上界内在不确定性,同时通过符合预测和信息论不等式的组合,实现了两种直接有用的应用:(i)更规范和有效的符合训练目标,从头开始实现机器学习模型的端到端训练,(ii) - 基于误差驱动的不确定性感知训练
神经网络误差驱动不确定性感知训练(EUAT)技术提供了更高质量的不确定性估计,优于现有的不确定性估计方法,并能在构建可信的二分类器和分布数据转换时产生更可靠的结果。
- 图上主动学习中的不确定性
基于节点分类的不确定性采样是主动学习策略,通过迭代地获取具有最高不确定性的数据点的标签,以提高机器学习模型的数据效率。本文首次对节点分类的不确定性采样进行了全面研究,我们超越了预测不确定性来评估不确定性采样,揭示了与其他主动学习策略之间的显 - LLMs 的不确定性估计与量化:一种简单的监督方法
通过使用标记的数据集,本文研究了针对大型语言模型(LLMs)的不确定性估计和校准问题,提出了一个监督学习方法来估计 LLMs 响应的不确定性,并展示了利用隐藏激活对不同任务进行增强不确定性估计的好处和在超出分布范围的情况下的鲁棒性,同时区分 - PoseINN:基于可逆神经网络的实时视觉姿态回归与定位
使用可逆神经网络来解决相机估计主题中的高计算成本问题,提供类似于当前最先进技术模型的性能,但更快速训练且只需要离线渲染低分辨率合成数据,同时还能提供输出的不确定性估计。
- ICLR变分贝叶斯最后几层
我们引入了一种确定性变分公式,用于训练贝叶斯神经网络的最后一层,它生成了一个无需采样、单次通过的模型和损失函数,有效提高了不确定性估计。我们的变分贝叶斯最后一层(VBLL)仅需要最后一层宽度的二次复杂度进行训练和评估,因此(几乎)对标准架构 - 使用多元模型和多视角对分类中的不确定性意识
提出了一种利用不确定性估计的人工智能模型训练方法,结合多视图预测和优化算法,实现了准确的预测和标签不确定性估计。
- 通过整体双 Lipschitz 性的直接参数化,对神经网络的灵敏度进行可证控制
我们研究和提出了一个新颖的针对 bi-Lipschitzness 的框架,该框架可以基于凸神经网络和 Legendre-Fenchel 对偶性实现对常数的直接和简单控制,并通过具体实验展示了其期望的性质。我们还将该框架应用于不确定性估计和单