跨域 Few-shot 学习的分层变分记忆

Dec, 2021

Hierarchical Variational Memory for Few-shot Learning Across Domains

Yingjun Du, Xiantong Zhen, Ling Shao, Cees G. M. Snoek

TL;DR本研究提出了一种基于分层原型模型和层次内存的神经记忆方法，该方法能够在领域转移的情况下，灵活地依赖不同语义层面的特征来适应新任务，而数据驱动的学习方法进一步可以使模型自适应地选择最具通用性的特征。该方法通过大量消融实验验证了性能的显著提升，尤其在跨领域和少样本分类方面表现出了显著优势。

Abstract

neural memory enables fast adaptation to new tasks with just a few training samples. Existing memory models store features only from the single last layer, which does not generalize well in presence of a domain shift

neural memory hierarchical prototype model domain shift hierarchical memory few-shot classification

发现论文，激发创造

学习学习变分语义记忆

本文介绍将变分语义记忆引入元学习中，以获取长期知识进行少样本学习，从而形成一个新的长期记忆模块，具有适应个人任务的原则性召回和更新机制，从而为少样本识别带来了巨大的益处。

Oct, 2020

记忆定位：学习语义分割泛化

该论文提出了一种基于元学习框架的新型记忆引导域泛化方法，该方法抽象了语义类别的概念知识，并通过训练多次来学习如何记忆无域和不同的类别信息，并提供外部固定的记忆作为类别指导，以减少任意未见域的测试数据中表示不确定性。通过语义分割的广泛实验，证明了我们的方法在各种基准上具有卓越的泛化能力。

Apr, 2022

利用变分语义记忆的元学习进行词义消歧

本文提出一种基于层次变分推理的语义记忆元学习模型，通过超网络的自适应记忆更新规则，大幅提高了少样本情况下的监督词义消歧的性能。

Jun, 2021

记忆式生成学习

该研究提出一种深度生成模型，在表示学习中采用了注意机制和大型外部记忆来捕捉局部详细信息，具有变分自编码贝叶斯方法的数据似然度上限，以及学习高级不变表示的非对称识别网络。实验结果表明，记忆单元可显着提高 DGMs 的性能，并在各种任务中达到最先进的结果。

Feb, 2016

从生成模型学习分层特征

本文证明已有的变分方法无法很好地训练分层潜变量模型，并且提出了一种不依赖先前知识、能够在多个自然图像数据集上学习高度可解释和分解分层特征的替代架构。

Feb, 2017

多级语义特征增强的单样本学习

本文提出了一种基于语义概念空间的单次学习方法，利用自动编码器网络将深度卷积神经网络中的多层视觉特征映射到语义向量，并在语义空间中搜索相关概念，在图像特征空间中生成复杂的增强特征分布以实现更好的一次学习性能。

Apr, 2018

一种用于域泛化的风格和语义记忆机制

本文提出了一种 STEAM 模型，该模型利用了域中内在的样式不变性以及共享的语义特征，可以优化域泛化效率，并且在实验中超越了现有的最先进方法。

Dec, 2021

学习和记忆 3D 点云的代表性原型，用于语义和实例分割

提出了一种利用记忆增强网络来解决三维点云场景理解中实例和语义分割中的样本不平衡问题的解决方案。该方法引入了一个记忆模块，通过记录小批量训练中所见的模式来缓解遗忘问题，这样所学习到的存储项目能够反映出支配类别和非支配类别 / 案例的可解释和有意义的信息，从而导致更好的性能和通用性。

Jan, 2020

分层结构元学习

本文提出了一种基于梯度的分层结构的元学习方法，该方法通过任务聚类结构以及自适应知识传递来解决元学习中任务不确定性和异质性问题，并在玩具回归和少样本图像分类问题中取得了最优表现。

May, 2019

变分同编码器：从少量样本中学习高容量生成模型的元学习

使用 Variational Homoencoder（VHE）技术，在 Omniglot 数据集中建立层次化的 PixelCNN，其效果优于所有现有模型，同时在一次性生成和分类任务上实现强大性能。

Jul, 2018