分类器调整:变革在发生
训练模型以适应由类先验或群组先验的分布变化引起的偏移问题并不容易,我们提出一种极其轻量级的事后方法,通过在验证集上求解约束优化问题并应用于模型,从而在测试时尽量减小选定目标分布周围的分布鲁棒性损失,并带有可证明的保证和实证的结果证明,表明我们的方法非常适用于分布鲁棒的事后分类器。
Sep, 2023
通过研究二元预测问题、先验概率转移及基础分类器的优化策略,本文确定其最大似然估计量的渐近方差,发现其与特征下类别标签的 Brier 得分相关,并点明了训练基础分类器的方法以最优化训练集和测试集的 Brier 得分。
Jul, 2021
通过训练二元分类器,我们提出了一种简单的方法来检测分布的变化,从而解决了在模型设计过程中的分布偏移问题,并通过验证其在实际应用中的有效性,证实了此方法可以提高设计的质量。
Nov, 2023
通过广义选择性分类,我们提出了两种新的边缘得分函数,用于基于深度学习分类器的广义选择性分类,并通过广泛的分析和实验表明,我们的方法在各种分类任务和深度学习分类器上比现有方法更有效和可靠。
May, 2024
本论文提出了一种基于分布鲁棒优化的模型,通过设计并分析梯度下降 - 近端镜像上升算法,用一次训练获得一个对多种标签偏移都具有稳健性的单一分类器,并在 CIFAR-100 和 ImageNet 上的实验中展示出其显著的性能提高。
Oct, 2020
本研究提出了基于黑盒预测器的分布偏移检测和矫正方法 BBSE,通过降维并获得测试分布确定估计 $p (y)$,并在高维自然图像数据集上实现了准确的估计和预测改善。
Feb, 2018
在学习分布转移的基本问题中,我们提出了一个新模型,称为可测试学习,可以通过一个相关的测试来得到分类器在测试分布上的性能证明,并证明了对于一些常见概念类别如半空间、半空间的交、决策树等,以及具有低次 $L_2$- 夹逼多项式逼近器的任何函数类别都可以在这个模型下学习。
Nov, 2023
提出了一个基于表示学习和样本重加权的误差界,针对因果推断和无监督域自适应问题,在设计转换下减少泛化误差的算法框架,与以往方法相比具有更好的效果并具有渐近一致性。
Feb, 2018
该研究论文研究了在不同测试环境中无法访问真实测试标签的情况下估计测试准确性的方法,通过使用神经网络的输出或提取特征来建立与真实测试准确性相关的估计分数,实验证明梯度提供的信息可以预测分布变化下的真实测试准确性,并提供了理论方面的洞见。
Jan, 2024