多样化合奏提高校准度
研究表明,在神经网络预测中平均多个集成模型和使用数据增强技术可以提高模型的校准性和鲁棒性,但是结合这两种方法会损害模型的校准性。研究者发现这是由于模型的置信度在使用多组权重和数据增强时过于保守。作者通过提出简单的方法来解决这种问题,并在 CIFAR-10,CIFAR-100 和 ImageNet 上实现了新的不确定性校准技术。
Oct, 2020
本文研究了在数据稀缺的情况下使用深度学习时,数据增强、集成学习和后处理校准方法之间的相互作用,并表明深度集成不一定会导致改进校准性能,必须进行微调后的后处理才能有效地降低标准深度集成中的预期校准误差。
Jul, 2020
为了提高深度神经网络在可靠的不确定性估计任务中的置信度校准性,本文提出了一种具有多样性函数正则化的深度集成训练策略,可以在维持相似预测准确度的情况下改善置信度校准性。
Feb, 2018
提高机器学习模型的预测准确性和可靠性,本文提出了一种简化深度集成模型的方法,通过不同的误差计算方法来训练多个线性分类器,达到与成本高昂的深度集成模型相同的校准能力和良好的分类性能,适用于组织病理图像和内镜图像的分类应用。
Mar, 2023
本文研究了深度神经网络模型校准方面的现有问题,并发现这类模型存在大量 “几乎确定” 置信度,导致常常过于自信。同时,文章提出可采用 Mixup 数据增强技术中的修改损失函数的方法来解决此类问题。
Jun, 2023
在小训练数据情况下,通过使用未标记数据来改进深度集成模型的校准方法,该方法通过为每个未标记数据点与每个集成成员的不同随机选择的标签进行拟合,理论分析证明该方法在测试样本上能够获得低负对数似然和高集成的多样性。经过详细实验证明,在训练集规模较小的情况下,与标准集成模型相比,我们的集成模型在多样性和校准能力上表现更好,有时表现显著。
Oct, 2023
本文研究了机器学习分类器的后续校准问题,提出了三种不同的校准要求,并通过 Mix-n-Match 校准策略实现了数据效率和表达能力的显着提高,并提出了一种基于核密度估计的可靠评估方法,结果表明我们的方法在大多数实验设定中表现优于现有的解决方案。
Mar, 2020
本文提出了一种新的多样性正则化方法,使用超出分布的样本并增加集成模型的整体准确性,校准性和对外部分布的检测能力。通过在 CIFAR-10、CIFAR-100 和 SVHN 上的实验证明了,多样性正则化对于校准性和稳健性以及外部分布检测具有显著影响。
Jan, 2022
本文提出了一种名为 AugMix 的数据处理技术,该技术对图像分类器的鲁棒性和不确定性估计有显著的提高,这有助于模型抵御在部署过程中遇到的意外破坏。
Dec, 2019