ICLRAug, 2018

基于场景的最优输运：上下文移动距离与重心，用于建立表示

PDF
TL;DR该论文提出了一种用于构建实体及其组合的无监督表示的框架，每个实体被视为概率分布，重点在于该分布支持与实体共现的上下文，使得我们能够从最优传输的角度考虑表示学习，并利用其工具，例如 Wasserstein 距离和几何重心。
unsupervised representationsprobability distributionoptimal transportsentence similarityentity compositions
发现论文，激发创造
  • Wasserstein 字典学习：基于最优输运的无监督非线性字典学习

    本文介绍了一种基于非线性字典学习的新方法，它通过使用最优传输理论来重构直方图，同时学习出字典原子和权重向量以实现优化传输重构，该方法允许原子和输入数据之间的非线性关系，可应用于多个图像处理场景。

    Aug, 2017

  • 通过 Wasserstein 重心镜头自动文本评估

    提出了基于 Wasserstein 距离和 barycenter 的新框架和指标 BaryScore 来衡量基于深度情境化嵌入（例如 BERT、Roberta、ELMo）的文本生成质量，通过建模深度情境化嵌入的层输出为概率分布或向量嵌入等多种形式，这一框架提供了一种自然的聚合不同输出的方法，并对度量提供了理论依据，针对机器翻译、数据到文本生成和图像字幕等领域进行了数值测评，结果表明 BaryScore 指标在特别是文本摘要方面优于其他基于 BERT 的指标并且表现更为一致。

    Aug, 2021

  • 分层最优输运用于文档表示

    该论文介绍了基于分布和话题建模的层次最优输运方法作为文档之间的元距离，以量化文档之间的相似性。这种方法具有解释性和可扩展性，并在 k-NN 分类方面表现良好。

    Jun, 2019

  • Wasserstein Barycenter 模型集成

    本文提出使用 Wasserstein barycenter 对模型进行集成，以在多类或多标签学习设置中提高模型性能，并应用于基于属性的分类、多标签学习和图像标题生成任务，结果表明 Wasserstein 集成是一种可行的替代方法。

    Feb, 2019

  • 用神经最优传输估计分布的重心

    使用建立在最优输运（Optimal Transport）的对偶形式基础上的新的可扩展方法，提出了求解 Wasserstein barycenter 问题的策略，具有双层对抗学习目标且适用于广义成本函数，同时在理论上建立了误差界限，并在图像数据集构建和举例场景中展示了其适用性和有效性。

    Feb, 2024

  • 量子理论与上下文最优输运的应用

    该研究论文首次通过量子计算形式化实现了上下文化交通计划的自动化优化，从而实现了基于剂量的细胞分布的变异性预测。

    Feb, 2024

  • 通过最优传输使用全局注意力提高文本网络嵌入

    本工作聚焦于学习基于文本数据的上下文感知网络嵌入，通过内容感知的稀疏注意力模块和高级注意力解析模块改进传统注意力机制以实现自然稀疏和自我规范化的关系推断，从而可以捕捉序列之间的长期交互.

    Jun, 2019

  • 基于最优传输对比句子学习的可解释语义文本相似性研究

    本文提出一种用于优化句子相似性和解释句子相似性的对比学习框架 CLRCMD，该框架使用 RCMD 方法作为句对的相似度评估方式， RCMD 方法提出了一种通过语境化令牌距离加权和来描述句子距离的方法和解释句子相似性的方法。经过广泛的实验证明，本文所提出的方法在 STS 任务和可解释的 STS 任务上均优于其他基线模型。

    Feb, 2022

  • Wasserstein Barycenters 的快速计算

    本文提出两种算法来计算一组经验概率测度的 Wasserstein barycenters，其中包括使用 entropic 正则化来平滑 Wasserstein distance 的方法，并使用矩阵缩放算法计算其梯度，这些算法可用于可视化大量图像并解决约束聚类问题。

    Oct, 2013

  • Wasserstein 空间中的统计数据分析

    本文介绍利用 Wasserstein 距离和最优输运理论分析数据集中随机概率测度（如多重直方图或点云）的最新统计学贡献，并重点介绍在 Wasserstein 空间中使用重心和测地线 PCA 的好处，用于学习数据集中几何变化的主要模式。同时，本文讨论了与统计优化输运相关的一些研究方向。

    Jul, 2019