Jul, 2023

模糊不会使分类器失效：利用不变的预测来利用偶然特征

PDF
TL;DR通过稳定特征为引导，在无标签情况下，借助可靠的特征来学习如何在测试领域使用不稳定特征，从而避免在分布不同的数据上的失败。
发现论文，激发创造
  • 通过转移不稳定的特征学习稳定的分类器

    通过对源任务的数据环境进行对比，利用相关性偏差来建立稳定的分类器，并在目标任务中实现稳健性和最小化最坏风险，以实现无偏的机器学习模型。

    Jun, 2021

  • 自训练避免在领域偏移下使用错误特征

    该论文提出了许多方法用于处理不同领域之间的转换，例如通过条件熵最小化和伪标记来完成对这些情况的试验，除此以外还针对某些情况下的结果做出更深入的解释，并验证了这种方法在半合成的 Celeb-A 和 MNIST 数据集上是可行的。

    Jun, 2020

  • 通过反事实和不变数据生成实现强健的分类模型

    该研究针对机器学习应用中存在的假相关问题，以图像分类为例，提出两种数据生成策略来减少此类问题，并在多个领域的数据集上表现出更好的准确性和更好的解释能力。

    Jun, 2021

  • 无监督学习中的可推广特征

    本文探讨了无监督学习发现特征以提高预测模型泛化性能的潜力，并利用视频序列预测方块塔的稳定性，展示了模型训练得出的特征能够支持对超出训练集分布的方块配置进行稳定性预测。

    Dec, 2016

  • 使用具有统计依赖性的特征调整特权信息进行测试

    此研究通过流形去噪技术，利用测试时的附加特征来改善基于不完美预测器的预测，以提高视觉属性排序的精度。

    Nov, 2021

  • 鲁棒文本分类中的虚假相关性识别

    本文提出了一种区分文本分类器中误导性和真实关联的方法，将其作为监督分类问题，并利用来自治疗效应估计器的特征，通过特征选择的方法进行更加鲁棒的分类。经过在情感分类和毒性检测等四个数据集上的实验，表明这种方法提高了最坏情况下的准确性和更好的分类效果。

    Oct, 2020

  • 不变表示学习的特征发现与分离

    提出了一种用于训练神经网络的框架，以识别和区分数据的预测和负面因素，并通过学习消除负面因素，从而实现对负面因素的不变性，从而实现对负面因素的不变性，并通过信息论框架和推导出的训练目标，实现了最先进的性能。

    Dec, 2019

  • 信息量和不变性：自然语言中伪相关性的两个观点

    该论文分析了 Gardner 等人提出的语言的组合性质意味着标签和各自的‘输入特征’之间的所有相关性都是虚假相关性这一提议，在简单的 PCFG 中演示出三种明显的条件可以导致特征 - 标签相关性的产生，论文指出在所有但极少数情况下，输入特征将与标签各自相关，因此需应用领域知识识别可能对鲁棒性构成真正威胁的虚假相关。

    Apr, 2022

  • Spuriosity Rankings: 为假相关性的鲁棒性分类数据

    提出了一种框架，用于基于存在的虚假线索以及图像排名，评估 ImageNet 模型的错误关联问题，通过对错误排名和正确排名的图像的准确度差距的测量（称为虚假差距），对 89 个 ImageNet 模型进行评估，发现即使是最好的模型在具有虚假线索存在的图像中也表现不佳，并且这种虚假线索的影响在不同的类别之间差异更大。

    Dec, 2022

  • 通过解耦风格和伪特征实现不变的表示学习

    针对存在样式分布偏移和虚假特征以及缺失域标签的超域泛化问题，本文提出了一种新的框架 IRSS，并通过引入对抗神经网络和多环境优化逐渐将样式分布和虚假特征从图像中分离，实现超域泛化。实验证明 IRSS 优于传统的超域方法，并解决了不变风险最小化（IRM）退化问题，从而实现了在分布迁移下提取不变特征。

    Dec, 2023