May, 2024

通过最优传输对一个模型在未知领域的测试性能进行评估

PDF
TL;DR利用仅在测试时可用的信息（如模型参数、训练数据或其统计信息以及未标记的测试数据），我们提出了一种基于最优输运的测度，与机器学习模型在未知领域的性能高度相关，并且高效可计算。通过对常用基准数据集及其损坏数据进行广泛的经验评估，证明了我们的测度在估计模型在各种实际应用中的性能方面的效用，包括选择源数据和架构以获得最佳未知领域数据性能的问题，以及在测试时预测已部署模型在未知领域的性能的问题。我们的经验结果表明，我们的测度综合使用源领域和未知领域的信息，与模型的性能高度相关，在相关性方面显著优于仅使用未知领域数据计算的流行预测熵测度。
ml modelsunseen domainsperformanceoptimal transportempirical evaluation
发现论文，激发创造
  • 基于度量相似性学习的最优传输域泛化

    我们提出了一种基于优化输运的机器学习方法，该方法不仅提取不变特征，而且在提取特征时还限制了标签相似性，以实现跨多个领域的分类。实验结果表明，该方法优于大部分基线方法，各组件的消融研究也证明了方法的有效性。

    Jul, 2020

  • 度量学习增强的生物化学回归域自适应最优输运

    本文提出使用最优传输算法（OT）进行表示对齐，解决生物医学应用中的连续标签回归任务问题。通过提出新的测度域距离和引入后验方差正则化的方法，进一步为拓展任务提供了支持。此外，提出了将 OT 与度量学习相结合的方法，通过动态层次三重损失函数来描述全局数据分布，试验证明该方法在未监督和半监督学习任务的小分子和材料晶体数据上显著优于现有方法。

    Feb, 2022

  • 领域自适应的最优传输

    该研究提出了一种规范化的非监督最优运输模型，通过找到公共表示来在源域和目标域之间执行两个领域的对齐，从而在标记和未标记的数据中同时利用了源和目标领域中的信息，该模型在可视化自适应方面表现优异。

    Jul, 2015

  • 最优传输理论分析的领域自适应

    本文在探讨域自适应的过程中，提出了一种使用 Wasserstein 度量作为两个数据集分布差异度量的方法，并且通过对多个不同的学习场景的实验证明了这种方法的通用性，同时进一步探讨了这种方法可能比其他现有框架更紧密的原因。

    Oct, 2016

  • 学习最优输运度量下的概率度量

    通过优化传输度量，在嵌入 Hilbert 空间的流形上估计一种衡量方法，并将量化优化和学习理论联系起来，为无监督学习中经典算法（k-means）的性能提供新的概率界限。在分析的过程中，我们得出了新的下界和概率上界，这些上下界适用于广泛的测度范围。

    Sep, 2012

  • 目标偏移下的多源域自适应最优传输

    本文提出了一种基于最优传输的多源域自适应方法解决目标移位下的分类问题，实验结果表明相比现有技术在卫星图像分割任务上具有较好的性能。

    Mar, 2018

  • 通过最优传输计算几何数据集之间的距离

    本文提出了一种基于最优传输理论的数据集距离度量方法，不依赖于具体模型参数及训练数据，能够更好地比较数据集的相似度，与转移学习难度具有很好的相关性。

    Feb, 2020

  • 通过高斯混合模型进行域适应的最优输运

    通过最优传输探索领域适应的研究，提出了一种新颖的方法，通过高斯混合模型对数据分布进行建模，从而解决连续最优传输问题。实验结果表明该方法在故障诊断的领域适应基准上具有最先进的性能。

    Mar, 2024

  • 使用最优输运的开放集域自适应

    提出了一种 2 步最优传输方法，对源分布进行到目标分布的映射，并针对目标分布中新增的类别开发了双重方法以解决这个问题，最终得到表现优于现有技术的结果，并将该方法应用在源和目标分布同时具有标签和特征变换的情况下以证明其鲁棒性。

    Oct, 2020

  • 隐式贝叶斯自适应：一种协同传输方法

    通过将度量空间从欧氏距离度量更改为测地距离度量，将先前的最优传输模型扩展到内在表示的领域自适应问题，并通过引入簇先验结构构建了一个隐式贝叶斯模型来提高数据的鲁棒性。

    Apr, 2023