回归分布校准
通过将后续校准嵌入到训练过程中,我们提出了一种名为量位数校准训练的新型端到端模型训练方法,该方法直接在训练过程中进行校准,无需额外参数,并且演示了其在大规模实验中在提高预测准确性的同时保持校准的性能。
Mar, 2024
本文通过最大实证研究来评估神经网络的概率校准和比较多种校准方法,并发现正则化方法在概率校准和锐度之间提供有利的权衡,而修正方法具有更好的概率校准。同时,我们还展示了分位数校准可以被视为一种特定的修正方法,并论证了修正方法的概率校准优势来自于有限样本覆盖的保障。
Jun, 2023
校准方法的研究提出了基于核的校准评估指标,将校准问题视为分布匹配任务,用于分类和回归,通过优化实证风险最小化的校准目标,在决策任务中提供了直观机制来量化指标和做出准确的损失估计和无悔决策,实验结果表明在一系列分类和回归任务中,这些指标作为正则化项能够提高校准度、预测的准确性以及决策能力,超过仅仅依靠事后校准的方法。
Oct, 2023
本文提出了一种新的针对回归任务中不确定性预测校准的方法和评估方法,并通过对合成问题和对 COCO 和 KITTI 数据集的物体检测边界框回归任务的实验验证,展示出基于直方图的聚类方法和基于缩放的校准方法的效果相当好。
May, 2019
本文提出了新的分位数方法,可以适用于任何回归模型,并允许在校准和锐度之间进行权衡,优化中心区间的校准度,并产生更准确的条件分位数。
Nov, 2020
本文提出了一种新的概念 —— 决策校准,指预测分布与真实分布在一组决策者下是 “不可区分的”。在选择有界行动的决策者的情况下,作者设计了一种重新校准算法,其样本复杂度多项式时间,并在皮肤病和 ImageNet 分类等领域中验证了该算法的有效性。
Jul, 2021
本文探讨贝叶斯方法在不确定性问题上的推理方法,提出一种简单有效的校准程序,可以保证在足够的数据下,任何回归算法都能够产生准确的校准不确定性估计,并应用于贝叶斯线性回归、前向和递归神经网络中,能够稳定输出准确的区间预测,并提高时间序列预测和基于模型的强化学习性能。
Jul, 2018
本研究提出了一种基于贝叶斯分布回归模型的神经网络方法,旨在解决现有监督学习方法中对于群体标签的估计存在不确定性的问题,实现了群体大小变化时模型的可靠性和性能的提高,并在玩具数据集和图像预测年龄的挑战性问题上进行验证。
May, 2017