通过最优传输表征超出分布误差

May, 2023

Characterizing Out-of-Distribution Error via Optimal Transport

Yuzhe Lu, Yilong Qin, Runtian Zhai, Andrew Shen, Ketong Chen...

TL;DR提出了一种新的利用最优传输理论来估计模型在无标签 out-of-distribution 数据上表现的方法，该方法称为置信度最优传输（COT），并且通过引入阈值处理的方法 Confidence Optimal Transport with Thresholding（COTT），可进一步提高精度。在各种标准基准测试中，实验表明 COT 和 COTT 优于现有的最先进方法，预测误差降低了高达 3 倍。

Abstract

Out-of-distribution (OOD) data poses serious challenges in deployed machine learning models, so methods of predicting a model's performance on OOD data without labels are important for machine learning safety. While a number of methods have been proposed by prior work, they often underestimate the actual error, sometimes by a large margin, which greatly impa

out-of-distribution data pseudo-label shift optimal transport theory confidence optimal transport thresholding

发现论文，激发创造

基于不确定性感知的语义连贯分布外检测优化输运

本文提出一种新的不确定性感知最优输运方案，其中包括能量基输运机制、聚类间扩展策略以及 T - 能量分数，可以有效地提高语义属性的判别能力，对于两个常用的 SCOOD 基准测试的性能超过了现有方法，其中 FPR@95 的得分提高了 27.69％和 34.4％。

Mar, 2023

基于最优输运的条件分布熵检测异常样本

通过建立优化方程，利用训练样本和测试输入的几何信息，提出了一种无需依赖分布假设、先验知识和特定训练机制的新型距离方法，用于在存在测试输入的情况下，有效利用分布信息来判断样本是否为来自分布之外的样本，并在基准数据集上展开的大量实验证明了该方法在区分来自分布之外样本上的性能优越性。

Jan, 2024

共同优化传输

提出一种名为 COOT 的新型最优输运问题，它同时优化两个输运映射，用于异质域适应和聚类数据总结，相比现有的方法，COOT 表现出更高的性能。

Feb, 2020

OTTER: 通过最优传输提高零 - shot 分类

零样本模型在预训练时遗传了一些问题，其中一个特别有害的问题是由于不平衡的网络规模预训练数据导致的标签分布不匹配。我们引入了一种简单且轻量级的方法，通过最优传输来调整预训练模型的预测结果，在广泛的零样本图像和文本分类任务中实验证实了我们的方法能够在准确率上提高 4.8% 和 15.9% 的平均值，并在 21 个数据集中的 17 个中击败了类似 Prior Matching 的基线方法。

Apr, 2024

可解释的最优输运分布漂移检测

本文提出了一种基于最优输运的方法来识别和表征分类数据集中的分布变化，它能够帮助用户确定每个类别受到变化的程度，并提供相应的样本对以提供其性质的洞见。作者在合成和自然变化的数据集上进行了实验验证，并希望这能够激发未来的可解释方法来分析分布变化。

Aug, 2022

OTA: 目标检测的最优传输分配

本文提出了一种从全局角度重新考虑标签分配的方法，将其表述为最优输运（OT）问题，并使用 Sinkhorn-Knopp 迭代法求解，经实验证明这种方法在物体检测中具有显著的效果提升。

Mar, 2021

非平衡最优输运半对偶形式生成建模

本文提出基于 Unbalanced Optimal Transport (UOT) 的半对偶形式构建的新型生成模型，相比于基于 OT 的方法在处理噪点，稳定性和训练收敛速度等方面表现更优。通过实验验证了该模型的性质，并研究了 UOT 之间分布差异的理论上界。实验结果显示，该模型在 CIFAR-10 和 CelebA-HQ-256 数据集上的 FID 分别为 2.97 和 5.80，优于现有基于 OT 的生成模型。

May, 2023

双限制最优输运用于高级聚类和分类

本文主要介绍了最优传输（OT）的基本概念及其在机器学习中的应用，提出了双重边界最优传输（DB-OT）方法，用于解决实际情况下涉及未确定目标的问题，并应用于聚类和长尾分类任务中，实验证明该方法在测试阶段具有良好的性能。

Jan, 2024

最优输运用于缺失数据填充

本研究使用最优传输距离量化了两个随机数据集共享相同分布的假设，并将其转化为缺失数据值的损失函数。我们提出了使用端到端学习最小化这些损失的实用方法，并在 MCAR，MAR 和 MNAR 设置中使用 UCI 存储库中的数据集对我们的方法进行了评估。这些实验表明，即使缺失值的百分比很高，在 OT-based 方法在缺失数据方面与最先进的缺失数据值的整合方法相匹配或优于之前的结果。

Feb, 2020

分析和改进基于 OT 的对抗网络

以单一框架统一 Optimal Transport（OT）为基础的对抗方法，通过对统一框架的全面分析来阐明每个组成部分在训练动力学中的作用。我们提出了一个简单而新颖的方法，逐步改进生成分布，并逐渐与数据分布对齐。该方法在 CIFAR-10 上实现了 2.51 的 FID 得分，胜过了统一的基于 OT 的对抗方法。

Oct, 2023