Jan, 2024

利用数据层次结构作为对比学习的新模态

PDF
TL;DR本研究探讨了如何使用分层结构化数据来帮助神经网络学习大教堂的概念表示。通过 WikiScenes 数据集提供的空间组织的分层结构，我们提出了一种新颖的分层对比训练方法，利用三元组边界损失在编码器的潜在空间中表示数据的空间层次结构，研究了数据集结构是否为自监督学习提供了有价值的信息。通过应用 t-SNE 可视化所得到的潜在空间并将所提出的方法与其他具有特定数据集的对比学习方法在常见的下游分类任务中进行比较评估，结果表明所提方法优于可比较的弱监督和基准方法。我们的发现表明数据集结构是弱监督学习中有价值的模态。
hierarchically structured dataneural networksconceptual representationscathedralsself-supervised learning
发现论文，激发创造
  • 联合层次结构学习和大规模图像分类

    本文介绍了一种基于层次化视觉数据结构的图像分类方法，该方法利用层次聚类创建了可变长度的视觉树，从而更准确地进行分类。该方法在 ILSVRC2010 和 Caltech 256 基准数据集上获得了显著更好的分类准确率。

    Sep, 2017

  • 层次语义树概念白化用于可解释的图像分类

    通过在深度模型中主动注入知识，使用语义概念的层次树规范化图像数据实例的表达方式，提高模型可解释性，改善语义概念的分离，并不会对模型的分类性能产生负面影响。

    Jul, 2023

  • 使用中间概念的深度监督

    本文提出一种深度监督方法，通过利用中间概念对 CNN 的隐藏层进行监督，将先前的领域结构融入到神经网络训练中，显著提高了推广能力。该方法还可以仅使用合成场景来训练，并在实际图像上取得了 2D/3D 关键点本地化和图像分类的最新性能。

    Jan, 2018

  • 层次化解耦空间 - 时间对比用于自监督视频表征学习

    提出一种新的自监督视频表示学习技术，通过将学习目标分解为两个对比子任务并分层进行，强调空间和时间特征，从而鼓励多尺度理解。通过实验表明，可以将增强作为规则化进行操作来指导网络在对比学习中学习所需的语义，并提出一种方式，使模型可以在多个尺度上分别捕捉空间和时间特征。还介绍了一种克服不同层次上实例不变性差异的方法。将代码公开。

    Nov, 2020

  • HCSC: 分层对比选择编码

    提出了一种新的对比学习框架 HCSC，可以通过构建并动态更新一组层次结构原型来表征图片数据中的层次语义结构，并且通过一种精心设计的对对选择方案来让图像表示更好地适应这些语义结构。在广泛的下游任务中，证明了 HCSC 优于现有对比方法，其重要模型组件的有效性通过大量的分析研究得到证明。

    Feb, 2022

  • HCL：基于分层对比学习的图像表示改进

    在图表征学习中，提出了一种新的分层对比学习 (Hierarchical Contrastive Learning, 简称 HCL) 框架，采用自适应的 L2Pool 方法进行更合理的多尺度图形拓扑构建，并采用多通道伪孪生网络来进一步扩展各级别内的互信息学习，以获得更丰富和更具层次感的表示。通过实验，HCL 在节点分类、节点聚类和图分类等 12 个数据集上均取得了具有竞争力的性能表现，并且通过可视化显示，HCL 成功捕捉到了图的有意义特征。

    Oct, 2022

  • 深度神经网络如何学习组合数据：随机层次模型

    本文探讨了使用深度卷积神经网络训练高维数据的难点，回答了在随机分层模型中学习所需的训练数据量成长与类别数、高级特征组成式的幂、重复次数成多项式关系的问题，并给出了相应的估算方法。

    Jul, 2023

  • 使用蕴涵锥嵌入的分层图像分类

    该论文提出了一套使用嵌入到分类标签中的类层次结构信息，通过改进算法进行图像分类和表示学习的方法，并将其在 ETHEC 数据集中进行了实证测试。

    Apr, 2020

  • 无人监督下生成扩散特征用于 3D 分层结构探索

    本研究使用生成扩散模型来发现生物医学三维图像中所有内在层次结构，并设计了三种损失来训练预测性的无监督分割网络，使其能够将三维体积分解为具有层次结构的有意义的子体积，取得了优于现有无监督结构发现方法的性能，可在具有挑战性的仿真数据集和真实的脑肿瘤 MRI 数据集上使用。

    Apr, 2023

  • 非局部图的多分辨结构视图对比学习

    学习异质图的节点级表示对于欺诈者检测和蛋白质功能预测等各种应用至关重要。为了解决传统节点表示无法捕捉高阶图结构的问题，我们提出了一种新颖的多视图对比学习方法，通过在图上集成扩散滤波器，捕捉异质图中的结构等价性，发现传统节点表示中隐含的关系和相似性。我们的方法在合成和真实结构数据集上优于基准方法，在 Cornell 上比最佳基准方法提高了 16.06%，在 Texas 上提高了 3.27%，在 Wisconsin 上提高了 8.04%。此外，我们的方法在近邻任务上始终表现出卓越的性能，证明了其在揭示结构信息和改进下游应用方面的有效性。

    Aug, 2023