基于最优传输自监督学习的少样本分类任务选择

Apr, 2022

基于最优传输自监督学习的少样本分类任务选择

Selecting task with optimal transport self-supervised learning for few-shot classification

Renjie Xu, Xinghao Yang, Baodi Liu, Kai Zhang, Weifeng Liu

TL;DR本文提出了一种名为 Optimal Transport Task Selecting（OTTS）的任务选择算法，它通过计算最优运输距离来测量任务相似性，并通过自监督策略完成模型训练。通过利用 OTTS 选择的任务，Few-Shot 学习的训练过程变得更加稳定和有效。实验结果验证了 OTTS 的有效性。

Abstract

Few-Shot classification aims at solving problems that only a few samples are available in the training process. Due to the lack of samples, researchers generally employ a set of training tasks from other domains to assist the target task, where the distribution between assistant tasks and the target task is usually different. To reduce the distribution gap,

few-shot learning task selection optimal transport self-supervised stability

发现论文，激发创造

OTMatch：以最优传输方式改进半监督学习

本文介绍了一种新的方法 OTMatch，通过使用最优输运损失函数，利用类别之间的语义关系，提高半监督学习的性能。与现有最先进的方法 FreeMatch 相比，在 CIFAR-10、STL-10 和 ImageNet 数据集上分别实现了 3.18%、3.46% 和 1.28% 的错误率降低，证明了我们方法在半监督学习中利用语义关系提升学习性能的有效性和优越性。

Oct, 2023

OTTER: 通过最优传输提高零 - shot 分类

零样本模型在预训练时遗传了一些问题，其中一个特别有害的问题是由于不平衡的网络规模预训练数据导致的标签分布不匹配。我们引入了一种简单且轻量级的方法，通过最优传输来调整预训练模型的预测结果，在广泛的零样本图像和文本分类任务中实验证实了我们的方法能够在准确率上提高 4.8% 和 15.9% 的平均值，并在 21 个数据集中的 17 个中击败了类似 Prior Matching 的基线方法。

Apr, 2024

自监督原型转移学习用于少样本分类

本文提出了一种自监督的原型传递学习方法 ProtoTransfer，旨在通过构建一个可以将未标记的样本和它们的增强聚类在一起的度量嵌入来预测少量标记数据的正确类别。我们在 mini-ImageNet 数据集上的少量样本分类任务中通过 ProtoTransfer 方法超越了最先进的无监督元学习方法。在存在领域偏移的少样本实验中，我们的方法甚至具有可比拟于监督方法的性能，但需要 orders of magnitude 较少的标签。

Jun, 2020

度量学习增强的生物化学回归域自适应最优输运

本文提出使用最优传输算法（OT）进行表示对齐，解决生物医学应用中的连续标签回归任务问题。通过提出新的测度域距离和引入后验方差正则化的方法，进一步为拓展任务提供了支持。此外，提出了将 OT 与度量学习相结合的方法，通过动态层次三重损失函数来描述全局数据分布，试验证明该方法在未监督和半监督学习任务的小分子和材料晶体数据上显著优于现有方法。

Feb, 2022

借助最优输运的合成特征进行少样本目标检测

通过训练生成器来捕捉基础数据集的数据变化，并将其转化为新类别的合成数据，以实现少样本目标检测。通过使用最优输送损失训练生成器，最小化真实数据和合成数据之间的最优输送距离，我们提出的方法在两个基准数据集上显示出优越的性能。

Aug, 2023

Pareto 自监督训练在少样本学习中的应用

本文通过提出 Pareto 自监督训练（PSST）方法来解决少样本学习中的优化问题，该方法将少样本辅助学习分解成多个具有不同权衡偏好的约束多目标子问题，然后通过有效的首选 Pareto 探索在这样的首选区域中找到一组最优解。

Apr, 2021

基于特征分布的迁移学习少样本学习方法

本文提出了一种新颖的基于转移学习的方法，通过预处理特征向量使其更接近高斯分布，并利用基于最优输运的算法 (在普遍情况下) 加以利用，证明了该方法在各种数据集、主干体系结构和少样本情形下达到最先进的准确性。

Jun, 2020

基于最优传输的受损度量下小样本动作识别

该研究提出了一种基于代价度量的方法，融合了视频中的语义和时间信息，以优化运输框架来识别视频中的无法见类行为，它具有包括内容和排序敏感任务的判别能力，并在基准数据集上表现出卓越的性能。

Apr, 2021

面向稀疏无监督恢复学习的最优传输感知算法

本文提出一种稀疏感知的最优传输 (SOT) 准则，通过利用 OT 框架中的降级疏松性，可以在无监督的恢复学习中显着提高性能，特别是在超分辨率和去雾等任务上。实验结果表明，SOT 可以在这些任务中显著优于现有的无监督方法，接近于最优监督方法的表现。

Apr, 2023

OTA: 目标检测的最优传输分配

本文提出了一种从全局角度重新考虑标签分配的方法，将其表述为最优输运（OT）问题，并使用 Sinkhorn-Knopp 迭代法求解，经实验证明这种方法在物体检测中具有显著的效果提升。

Mar, 2021