通过使用专家混合技术和计算机视觉领域的先进数据增强技术,结合对预测不确定性的稳健后期校准,我们可以在表格数据的深度神经网络中实现比提升树模型更准确和更好校准的结果,从而改进领域外天气预测和不确定性估计。
Jan, 2024
本文提出一种基于域泛化的新型校准方法,通过利用多个校准域来减少目标域与校准域之间的分布差异,实现校准转移的改进,并且不需要来自目标域的数据,通过理论和实证实验的方法展示了该方法的有效性,并比较了其表现与其他基于域适应的最先进的校准方法。实验表明,在 Office-Home 数据集上的多类别分类中,我们所提出的校准方法的表现提高了 35 个百分点,期望校准误差降低了 8.86 个百分点。
Apr, 2021
通过元集合级联温度回归方法,本文提出了一种新颖的事后校准方法,通过对验证集上的数据增强模拟不同领域的转变,为不同的测试集定制细粒度的缩放函数,捕捉多样化的不确定性,并通过回归网络学习得到类别特定和置信度特定的缩放,实现元集合之间的校准。通过在 MNIST、CIFAR-10 和 TinyImageNet 上进行广泛的实验证明了该方法的有效性。
Feb, 2024
本文探讨了深度神经网络中不确定性校准问题,并提出了一种针对域偏移的后处理校准方法,其通过对验证集的样本进行扰动,可大幅提高模型的校准性能。
Dec, 2020
以大量分类问题为基础,对现有现代机器学习方法中不同的贝叶斯和非贝叶斯概率量化预测不确定性的方法进行了评估,发现一些基于模型边缘化的方法在广泛的任务领域内表现出令人惊讶的强大效果。
Jun, 2019
在安全关键应用的不确定性量化和决策中,概率模型的校准至关重要,在存在最小协变量转移时,针对校准的问题已受到广泛研究,我们提出了一种基于重要性采样的方法来解决这个问题,并在真实数据集和合成数据集上评估和讨论了我们的方法的有效性。
Jun, 2020
本文提出了一种算法,用于校准模型预测并考虑协变量转移的情况,采用重要性加权法纠正训练分布与实际分布的差异,并通过领域适应的方法实现两个分布尽可能一致, 实证结果表明,该方法在存在协变量转移时优于现有的校准方法。
Feb, 2020
本论文研究如何从长尾分布的样本中训练模型并校准,利用知识转移和重要性权重估算方法,将尾部类别的目标概率密度适应地从头部类别中传输,实现了长尾分布校准,并在多个数据集上证实了该方法的有效性。
Apr, 2023
使用合成数据和统计度量来评估分布变化和模型不确定性,为实现机器学习应用在现实世界中的成功部署提供了重要方法和见解。
May, 2024
通过培训算法来提高对于机器学习领域的可靠性,从而应对领域的变化,提高算法的性能,预测其表现并轻量级适应应用领域。
Mar, 2023