经验法调整回归不确定性分布
本文探讨贝叶斯方法在不确定性问题上的推理方法,提出一种简单有效的校准程序,可以保证在足够的数据下,任何回归算法都能够产生准确的校准不确定性估计,并应用于贝叶斯线性回归、前向和递归神经网络中,能够稳定输出准确的区间预测,并提高时间序列预测和基于模型的强化学习性能。
Jul, 2018
本文介绍了一种新的分布校准方法,并提出了采用多输出高斯过程和Beta链接函数的方法来改善先前训练的回归模型的预测的后验方法。该方法得到了实验验证,并在分布层和分位数层面上均有所提高。
May, 2019
本文提出了一种新的针对回归任务中不确定性预测校准的方法和评估方法,并通过对合成问题和对COCO和KITTI数据集的物体检测边界框回归任务的实验验证,展示出基于直方图的聚类方法和基于缩放的校准方法的效果相当好。
May, 2019
本文提出了使用最大平均偏差最小化核嵌入度量的校准回归方法,证明该方法在样本量足够大时其校准误差渐近收敛于零,实验结果表明该方法能够产生良好校准和尖锐的预测区间,优于相关现有技术。
Jun, 2020
优化深度神经网络中的不确定性估计是安全关键应用中的一个重要问题。本文提出了利用准确度与不确定性之间的关系进行优化的方法,通过可微的 loss 函数来实现模型的不确定性校准,结果显示比现有的方法在大规模图像分类任务中表现的更好
Dec, 2020
校准方法的研究提出了基于核的校准评估指标,将校准问题视为分布匹配任务,用于分类和回归,通过优化实证风险最小化的校准目标,在决策任务中提供了直观机制来量化指标和做出准确的损失估计和无悔决策,实验结果表明在一系列分类和回归任务中,这些指标作为正则化项能够提高校准度、预测的准确性以及决策能力,超过仅仅依靠事后校准的方法。
Oct, 2023
根据最新机器学习不确定性量化文献上的数据集集成,本文展示了标定误差(CE)极其敏感于不确定性分布的特点和异常值不确定性的存在,因此不适合用于标定测试,相比之下,ZMS统计量在这个背景下提供了最可靠的方法,并且探讨了条件标定验证的启示。
Feb, 2024
使用条件核平均嵌入测量标定差异,以提高机器学习模型的不确定性量化,并消除偏差和参数假设。初步实验基于合成数据展示了该方法的潜力,并计划用于更复杂的应用。
May, 2024