ICLRSep, 2023

先验转移下的分布鲁棒事后分类器

PDF
TL;DR训练模型以适应由类先验或群组先验的分布变化引起的偏移问题并不容易，我们提出一种极其轻量级的事后方法，通过在验证集上求解约束优化问题并应用于模型，从而在测试时尽量减小选定目标分布周围的分布鲁棒性损失，并带有可证明的保证和实证的结果证明，表明我们的方法非常适用于分布鲁棒的事后分类器。
machine learning modelsgeneralization abilityrobustnessdistribution shiftspost-hoc approach
发现论文，激发创造
  • 通过分布式鲁棒性优化应对标签漂移

    本论文提出了一种基于分布鲁棒优化的模型，通过设计并分析梯度下降 - 近端镜像上升算法，用一次训练获得一个对多种标签偏移都具有稳健性的单一分类器，并在 CIFAR-100 和 ImageNet 上的实验中展示出其显著的性能提高。

    Oct, 2020

  • 检测和应对分布偏移下的伪特征

    本文主要探讨机器学习中机器如何学习到能够捕捉输入特征与输出标签之间因果关系的鲁棒性表征，以及在有偏或有限数据集上可能存在的虚假相关性。提出了一种基于最小充分统计量的鲁棒表征和虚假表征的信息理论概念，并基于分组分布式鲁棒优化方法来缓解输入分布偏移的问题，同时通过实验展示该方法在图像和语言任务中具有显著的鲁棒性优势。

    Jun, 2021

  • 稳健验证：即使分布发生偏移，也能自信地做出预测

    本文提出了一种建立在鲁棒性预测推断上的不确定性估计模型，使用 conformal inference 方法建立了准确覆盖测试数据分布的预测集，通过估计数据漂移量建立了鲁棒性，并在多个基准数据集上进行了实验证明了该方法的重要性。

    Aug, 2020

  • 分布偏移的细粒度分析

    本研究提出了一种框架来分析各种分布转移，并通过评估 19 个不同类别的方法，提供了当前最先进方法的整体分析。结果显示，与标准 ERM 基线相比，预训练和数据扩充（学习或启发式）在许多情况下都具有很大的优势，但不能很好地适应不同的数据集和转移。

    Oct, 2021

  • 针对分布偏移的天气预报改进的稳健校准

    通过使用专家混合技术和计算机视觉领域的先进数据增强技术，结合对预测不确定性的稳健后期校准，我们可以在表格数据的深度神经网络中实现比提升树模型更准确和更好校准的结果，从而改进领域外天气预测和不确定性估计。

    Jan, 2024

  • 学习加权表示以实现跨设计通用化

    提出了一个基于表示学习和样本重加权的误差界，针对因果推断和无监督域自适应问题，在设计转换下减少泛化误差的算法框架，与以往方法相比具有更好的效果并具有渐近一致性。

    Feb, 2018

  • 分类器调整：变革在发生

    提出了无界和有界的调整方法，以平均预测与类分布相等化，以最小化得分规则。实验结果表明在实际应用中，即使类分布仅近似已知，仍然可以根据移位量和类分布的精度减少损失。

    Nov, 2021

  • 零样本学习中的类别分布变化：学习鲁棒表征

    在这篇研究论文中，我们研究了一个隐藏变量引起的类别分布偏移的情景，针对零样本分类器在训练课程上学习的表示被应用于新的未见类别的情况，我们引入了一种算法用于学习在这种类别分布偏移下具有鲁棒性的数据表示。我们展示了我们的方法，将分层数据抽样与越域泛化技术相结合，能够改进在模拟和真实数据集中对多样的类别分布的泛化能力。

    Nov, 2023

  • 类分布估计的不变性假设

    我们研究了在数据集偏移下的类别分布估计问题，讨论了协变量转移、可因子化联合转移和稀疏联合转移的假设及其对类别分布估计的影响。

    Nov, 2023

  • 在不同程度的分布偏移下，鲁棒性可能比我们认为的更脆弱

    我们的研究探讨了分布偏移程度的更加微妙的评估设置，我们发现模型的稳健性在不同程度的分布偏移下可能相当脆弱和不一致，因此在从有限范围下的评估中得出结论时应更加谨慎。此外，我们观察到大规模预训练模型（如 CLIP）对于新颖下游任务的微小分布偏移也很敏感。这表明，尽管预训练表示可以帮助提高内分布性能，但在某些 OOD 场景中可能对泛化性能产生最小甚至负面影响，如果不正确使用。鉴于这些发现，我们鼓励未来的研究在可能的情况下进行更广泛范围的评估。

    Oct, 2023