互为传输集成的准确可靠预测

May, 2024

Accurate and Reliable Predictions with Mutual-Transport Ensemble

Han Liu, Peng Cui, Bingning Wang, Jun Zhu, Xiaolin Hu

TL;DR通过引入相互传输集成（MTE）方法，本研究提出了一种改进深度神经网络（DNNs）中不确定性校准的方法，可以同时提高准确性和不确定性校准，通过在各个基准测试上的研究表明，与现有最先进方法相比，MTE 方法在 CIFAR-100 数据集上的 ResNet34/50 模型显著提高了 2.4%/3.7% 的准确度，减少了 42.3%/29.4% 的 ECE 和 11.6%/15.3% 的类别 ECE。

Abstract

deep neural networks (DNNs) have achieved remarkable success in a variety of tasks, especially when it comes to prediction accuracy. However, in complex real-world scenarios, particularly in safety-critical appli

deep neural networks uncertainty estimates mutual-transport ensemble uncertainty calibration prediction accuracy

发现论文，激发创造

机器翻译评估中的不确定性分解

本文提出了一种针对机器翻译 Uncertainty Prediction 的新型强大高效的不确定性预测器，在不同的数据集和应用场景中具有明显的降低计算成本和提高预测准确度的效果。

Apr, 2022

用预训练神经网络集成进行透射电子显微图像分割和质量检测

本专业研究了机器学习在电子显微数据集分析中的应用问题，因为这种类型的数据集具有许多挑战，包括训练数据集大小限制、试样质量及实验条件的变化等。研究发现，使用 EA 方案的集合设计比 ER 方式更适合处理这些问题，因为 EA 表现出更好的分类精度和更好的校准性，而这两种集合的不确定性量化相当。

Sep, 2022

多头多损失模型校准

提高机器学习模型的预测准确性和可靠性，本文提出了一种简化深度集成模型的方法，通过不同的误差计算方法来训练多个线性分类器，达到与成本高昂的深度集成模型相同的校准能力和良好的分类性能，适用于组织病理图像和内镜图像的分类应用。

Mar, 2023

基于误差对齐不确定性优化的可靠多模态轨迹预测

通过提出基于误差对齐的不确定性优化方法和引入可训练的损失函数来估算深度神经网络的不确定性，以取得与模型误差相关性强的不确定性预测。该方法适用于连续结构化预测和回归任务，并在包括大规模车辆运动预测任务的多个数据集上进行评估，通过 Pearson 相关系数表明我们的方法提高了平均位移误差和不确定性与模型误差之间的相关性。

Dec, 2022

不确定性感知的机器翻译评估

本研究介绍了一种基于神经网络度量的机器翻译质量不确定性评估方法，并结合蒙特卡罗 dropout 和深度集成等两种不确定度估计方法，得出质量分数以及置信区间。通过对来自 QT21 数据集和 WMT20 度量任务的多语种数据进行实验，验证了该方法的性能，进一步探讨了不依赖参考文献的不确定性评估在发现可能的翻译错误中的应用。

Sep, 2021

U-CE: 语义分割的不确定性感知交叉熵

利用动态预测不确定性的像素权重加权 U-CE（Uncertainty-aware Cross-Entropy loss）训练方法在两个基准数据集上优于传统 CE（cross-entropy loss）训练方法，提高了安全关键应用中更稳健可靠的分割模型的性能和可信度。

Jul, 2023

使用神经网络集合进行考虑不确定性的车辆能耗效率预测

本文提出了一种基于深度神经网络（ENN）的集成学习方法，旨在减少交通工具能效预测中的不确定性并输出不确定性度量，该方法在公开的车辆能源数据集（VED）上表现出了高的预测性能和预测不确定性度量。

Apr, 2023

自信的多选学习

本研究提出一种针对深度神经网络的新型集成学习方法，名为自信多选学习（CMCL），通过解决其过度自信的问题来提高模型的性能，CMCL 比独立集成方法在图像分类和前景 - 背景分割等任务中提高了显著的准确率。

Jun, 2017

层次光变换器集成用于多模态轨迹预测

我们提出了一种名为 HLT-Ens 的新方法，利用一种新的分层损失函数，通过组合的全连接层来捕捉多模态分布，有效地训练 Transformer 架构的集合，在轨迹预测技术上取得了最先进的性能水平，为改进轨迹预测技术提供了有希望的途径。

Mar, 2024

带有集合共识的鲁棒训练

研究通过一种名为 Learning with Ensemble Consensus (LEC) 的新训练方法解决了深度神经网络在存在标签噪声时过拟合的问题，该方法通过对众多神经网络的一定扰动下的结果进行共识，剔除出噪声样本，其中一个提出的 LEC，即 LTEC 在 MNIST，CIFAR-10，和 CIFAR-100 数据集上表现出更高的分类准确率，且效率较高。

Oct, 2019