Jul, 2020

通过域不变表示估计分布转移下的泛化能力

PDF
TL;DR本篇论文研究机器学习模型在不同测试分布的情况下表现不佳且过度估计它们的表现的问题，并提出一种基于领域不变性预测模型的方法来更好地估计模型在转移学习领域的性能，从而实现了领域自适应和对给定模型在分布转移情况下进行准确的目标误差估计，并可以用于模型选择、决定早期停机和错误检测。
发现论文，激发创造
  • 学习不变表示以进行领域自适应

    本文针对无监督域适应学习中常见的假设提出了简单反例，证明了这些假设并不足以保证域适应的成功；提出了一种基于信息理论的弱化条件，并证明了任何试图学习不变表示的域适应方法的联合误差都存在一种基本的权衡；最后，通过实验验证了理论结果。

    Jan, 2019

  • 学习加权表示以实现跨设计通用化

    提出了一个基于表示学习和样本重加权的误差界，针对因果推断和无监督域自适应问题，在设计转换下减少泛化误差的算法框架，与以往方法相比具有更好的效果并具有渐近一致性。

    Feb, 2018

  • 领域密度转换的域不变表示学习

    本论文提出了一种基于对抗生成网络的方法，通过学习域间变换的不变性来实现域不变表示的学习，以解决领域泛化问题，并在多个广泛使用的数据集上取得了与最先进模型竞争的结果。

    Feb, 2021

  • 通过条件不变表示实现域泛化

    本文针对数据集偏差问题，提出一种基于类条件分布的域不变特征表示方法，在合成和实际数据上的实验证明其有效性。

    Jul, 2018

  • 强健不变表示中的领域通用性

    本文研究对象识别中不变表示的泛化性，经过广泛实验，我们证明了不变模型学习到的非结构化潜在表示对分配偏移具有鲁棒性，因此使不变性成为有限资源环境中训练的理想属性。

    Apr, 2023

  • 机器学习模型在实际中的稳健性、评估与适应性

    通过培训算法来提高对于机器学习领域的可靠性，从而应对领域的变化，提高算法的性能，预测其表现并轻量级适应应用领域。

    Mar, 2023

  • 半监督域自适应的学习不变表示和风险

    本论文提出了一种用于半监督域适应的算法 LIRR，它能同时学习不变的表示和风险，并将特征空间中的边缘和条件分布对齐，实现了目标泛化能力的有意义提高。该算法在分类和回归任务上实现了最先进的性能和显著的改进。

    Oct, 2020

  • 域不变表示中的支持和可逆性

    研究表明，学习领域不变表示已成为非监督领域适应的一种流行方法，但其局限性主要在于非反演变换中丢失的信息以及领域不变性是一个过于严格的要求，本研究提出了一种权衡代价的一般化界限，并建议使用测量源域覆盖目标域范围的范围来提高性能。

    Mar, 2019

  • 在协变量和依赖偏移下的公平感知领域泛化

    基于领域偏移的普适分类器归纳问题几乎困难且复杂，本文通过引入三种不同的分布偏移（概念偏移、协变量偏移和依赖性偏移），提出了一种新颖的领域泛化方法，能够在不同领域中保持模型的准确性和公平性。实验结果表明，该方法在四个基准数据集上超越了现有的方法。

    Nov, 2023

  • 通过选择性增强提高对抗样本的鲁棒性

    探讨了在实际应用中常见的基于配分转移的问题，提出了一种选择性增广的简单混合技术 LISA，通过学习不受限制的内部表示或预测器来学习不变的预测器，并在包括亚种人群转移和领域转移的九个基准测试中验证了 LISA 的有效性。

    Jan, 2022