Apr, 2024

OTTER: 通过最优传输提高零 - shot 分类

PDF
TL;DR零样本模型在预训练时遗传了一些问题，其中一个特别有害的问题是由于不平衡的网络规模预训练数据导致的标签分布不匹配。我们引入了一种简单且轻量级的方法，通过最优传输来调整预训练模型的预测结果，在广泛的零样本图像和文本分类任务中实验证实了我们的方法能够在准确率上提高 4.8% 和 15.9% 的平均值，并在 21 个数据集中的 17 个中击败了类似 Prior Matching 的基线方法。
zero-shot modelslabel distributionpretrained model predictionsoptimal transportzero-shot image and text classification
发现论文，激发创造
  • 最优传输蒸馏与数据高效的语言监督零样本识别

    本篇研究提出了一种在线熵最优传输方法 OTTER，使用其进行对比学习，使来自预先训练的图像和文本编码器的模型仅需要使用 3M 图像 - 文本对进行训练，就可以在 Google Open Images 和 Tencent ML-Images 上获得在零样本评估方面的强大性能。

    Dec, 2021

  • OTMatch：以最优传输方式改进半监督学习

    本文介绍了一种新的方法 OTMatch，通过使用最优输运损失函数，利用类别之间的语义关系，提高半监督学习的性能。与现有最先进的方法 FreeMatch 相比，在 CIFAR-10、STL-10 和 ImageNet 数据集上分别实现了 3.18%、3.46% 和 1.28% 的错误率降低，证明了我们方法在半监督学习中利用语义关系提升学习性能的有效性和优越性。

    Oct, 2023

  • 通过最优传输表征超出分布误差

    提出了一种新的利用最优传输理论来估计模型在无标签 out-of-distribution 数据上表现的方法，该方法称为置信度最优传输（COT），并且通过引入阈值处理的方法 Confidence Optimal Transport with Thresholding（COTT），可进一步提高精度。在各种标准基准测试中，实验表明 COT 和 COTT 优于现有的最先进方法，预测误差降低了高达 3 倍。

    May, 2023

  • 基于最优传输自监督学习的少样本分类任务选择

    本文提出了一种名为 Optimal Transport Task Selecting（OTTS）的任务选择算法，它通过计算最优运输距离来测量任务相似性，并通过自监督策略完成模型训练。通过利用 OTTS 选择的任务，Few-Shot 学习的训练过程变得更加稳定和有效。实验结果验证了 OTTS 的有效性。

    Apr, 2022

  • 基于迁移学习的少样本分类：利用预处理过的骨干神经网络潜空间进行最优输运映射

    本研究介绍了在 MetaDL Challenge 2020 中排名第二的基于元学习的方法，在少量标注数据的情况下，通过修改隐空间中每个类别的分布来更好地对齐高斯分布，并利用期望最大化算法进一步对齐类别中心，使用 Sinkhorn 算法的最优传输映射。实验证明，该方法优于先前的研究以及使用 KNN 算法、高斯混合模型等其他算法的变体。

    Feb, 2021

  • P$^2$OT：用于深度不平衡聚类的渐进偏差最优输运

    本文介绍了一种新的深度非平衡聚类问题，并提出了一种基于伪标签的学习框架，通过渐进式部分最优输运问题生成偏态感知的伪标签，并从高置信度样本中学习，实验证明了我们方法的优越性。

    Jan, 2024

  • 通过最优输运进行离线强化学习的零样本偏好学习

    提出一种新颖的零样本基于偏好的强化学习算法，利用源任务的标注偏好数据来推断目标任务的标注数据，然后利用 Gromov-Wasserstein 距离来对齐源任务和目标任务的轨迹分布，并使用 Robust Preference Transformer 模型来训练奖励函数和策略模型，其结果表明该方法具有在转移学习环境下学习偏好并能从含噪偏好标签学习奖励函数的能力。

    Jun, 2023

  • 目标偏移下的多源域自适应最优传输

    本文提出了一种基于最优传输的多源域自适应方法解决目标移位下的分类问题，实验结果表明相比现有技术在卫星图像分割任务上具有较好的性能。

    Mar, 2018

  • SP$^2$OT：语义规范化的逐步偏差最优传输用于不平衡聚类

    我们提出了一个基于最优传输的伪标签学习框架来解决深度不平衡聚类问题，该框架通过逐步将样本转移到不平衡的聚类中生成高质量且注意不平衡性的伪标签。

    Apr, 2024

  • OTA: 目标检测的最优传输分配

    本文提出了一种从全局角度重新考虑标签分配的方法，将其表述为最优输运（OT）问题，并使用 Sinkhorn-Knopp 迭代法求解，经实验证明这种方法在物体检测中具有显著的效果提升。

    Mar, 2021