ICCVAug, 2019

邻域关系编码的自监督表示学习

PDF
TL;DR本文提出了一种新颖的自监督表示学习方法，通过利用训练数据中的邻域关系编码来保留样本之间的联系并获得具有自主监督的判别性和无监督的表示学习方案。该方法不需要强制注释且适用于不同计算机视觉任务，包括分类、检测和分割等。此外，在对抗性攻击防御和视频异常检测等应用中，该方法的自编码能力也能发挥较好的作用。实验结果表明，该方法在每个特定应用场景下与最先进的方法相比性能更好或至少不逊色。
self-supervisedrepresentation learningneighborhood-relational encodingunsupervised learningcomputer vision
发现论文，激发创造
  • 一种自编码器用于学习最近邻

    我们提出了自编码器，该神经网络训练用于猜测每个数据样本的身份。尽管它很简单，但它以一种自监督的方式学习到了非常有用的数据表示。

    Jun, 2023

  • 基于邻域瓦瑟斯坦重构的图自编码器

    该研究提出了使用邻域 Wasserstein 重构方法实现更好的无监督 GNN 训练，生成更具优势的以结构为导向的图挖掘任务的无监督节点表示。

    Feb, 2022

  • 自监督关系推理的表示学习

    本研究提出了一种新型的自监督关系式推理算法，通过学习如何区分实体之间的关系，使得在底层神经网络骨干中具备丰富的关系描述能力。该算法在标准数据集、协议和骨干模型上的实验结果表明，它的准确性比现行同类算法平均提高 14％，比最近的最先进算法提高 3％，对提高下游任务的表现非常有效。

    Jun, 2020

  • 基于关系嵌入的小样本分类

    本研究提出了一种元学习方法，通过关系模式中 “观察什么” 和 “关注何处” 的方式，利用自我相关表示和交叉相关关注，在图像内和图像间学习关系嵌入，以解决少样本分类问题，并在 miniImagenet、tieredImageNet、CUB-200-2011 和 CIFAR-FS 等四个少样本分类基准测试中取得了一致的改进。

    Aug, 2021

  • 从朋友那儿获取帮助：最近邻对比学习视觉表示

    NNCLR 是一种基于最近邻对比学习的自监督学习算法，将数据集中最近邻作为正样本而不是图像的不同视角，能够提供比预定义的变换更多的语义变化，达到了在 ImageNet 分类和迁移学习基准测试中超越现有先进方法的效果。此外，该方法的鲁棒性能更好，对于数据变换的依赖性更小。

    Apr, 2021

  • 增强排名的无监督句子表示学习

    本文提出了一种基于相邻句子的无监督句子编码器 RankEncoder，利用相邻句子约束进行训练，在语义文本相似度性能、相似句子对的有效性和普适性等方面都较好地表现，达到了 80.07% 的斯皮尔曼等级相关性，相较于最先进技术性能有 1.1% 的绝对提升，并且在相似句子对方面提升更为显着，为 1.73%，同时证明了 RankEncoder 可以普遍适用于现有的无监督句子编码器。

    Sep, 2022

  • 无监督时间序列表示学习与时空邻域编码

    本文提出了一种自监督学习框架 (Temporal Neighborhood Coding)，用于学习非平稳时间序列的可泛化表示，通过利用信号生成过程的局部平滑性定义时间上具有稳定性的邻域，使用无偏差对比目标，通过确保在编码空间中，邻域内的信号分布可与非邻域内的信号分布区分来学习时间序列表示，并在分类和聚类任务上表现出卓越的性能。

    Jun, 2021

  • 通过非局部循环神经记忆学习序列表示

    本文提出了一种名为 NRNM 的非局部循环神经记忆网络，通过自注意机制实现非局部操作，以学习滑动时间记忆块内的全序交互，并以门控的循环方式模拟内存块之间的全局交互来解决序列表示学习中长期依赖建模难题，实验结果表明 NRNM 对于不同类型序列任务的泛化性和有效性优于其他最先进的方法。

    Jul, 2022

  • 交互系统的神经关系推断

    本文介绍了一种名为神经关系推断（NRI）模型的非监督学习算法，该模型可以在学习动态过程的同时推断系统组成部分之间的相互作用，通过真实场景的一系列实验表明该模型可以准确地预测从运动捕捉和运动追踪数据中推断出的社交网络组成部分之间的关系和运动的复杂动态。

    Feb, 2018

  • 基于记忆的邻域嵌入用于视觉识别

    本文提出了一种记忆邻域嵌入方法（Memory-based Neighbourhood Embedding，MNE），其将邻域信息考虑进卷积神经网络（CNN）特征嵌入，通过增加体现输入图像相关性的记忆模块并使用一个树状图形式的邻域结构来聚合邻域信息以获得更为判别性的嵌入；该方法在图像搜索和少样本学习任务上得到应用，表现出较高性能。

    Aug, 2019