关联神经网络
作者们通过投影加权规范相关分析法(projection weighted CCA)研究神经网络的表征学习。研究发现,广泛的神经网络更容易获得相似的表征,与学习速率相关的神经网络收敛到具有不同表征的不同聚类中,RNN 随着时间的推移呈自底向上的模式聚合,而其隐藏状态在序列的不同时间间隔内变化较大。
Jun, 2018
本文介绍了一种双向神经网络架构,该架构通过使用欧几里得损失将两个数据源的向量进行匹配,并演示了在 MNIST 图像匹配和 Flickr8k、Flickr30k 和 COCO 数据集上的计算机视觉匹配任务中的最新结果。
Aug, 2016
本文研究了多视角数据下的特征表示学习问题,比较了基于神经网络的多种技术,提出了一种新的深度自编码器,通过随机优化方法探索了小批量相关性目标函数,最终发现基于相关性的表现效果最佳。
Feb, 2016
本文提出了一种基于深度神经网络的模型 Canonical Correlated AutoEncoder(C2AE),在多标签分类任务中通过联合特征和标签嵌入派生一个深度潜在空间,并引入标签相关敏感的损失函数来恢复预测的标签输出,其能够灵活应对多种规模的数据集,与其他现有的多标签分类方法相比表现更加优异。
Jul, 2017
本文介绍了基于规范相关分析(CCA)方法的神经网络表示比较方法,并提出了一种相似度指数来测量表示相似性矩阵之间的关系,该指数与中心核对齐(CKA)密切相关,但不受高维表示限制,具有可靠性。与 CCA 不同,CKA 方法可在不同初始化的网络表示中可靠地识别对应关系。
May, 2019
本研究提出了一种元学习方法,通过关系模式中 “观察什么” 和 “关注何处” 的方式,利用自我相关表示和交叉相关关注,在图像内和图像间学习关系嵌入,以解决少样本分类问题,并在 miniImagenet、tieredImageNet、CUB-200-2011 和 CIFAR-FS 等四个少样本分类基准测试中取得了一致的改进。
Aug, 2021
本文提出了一种名为因果关系网络的算法,采用神经网络学习因果模型,并使用连续表示方法表示因果模型,从而更好地处理大量变量和利用先前的知识帮助学习新的因果模型,同时提出一种基于解码的评估指标。在合成数据的测试中取得了高精度和快速适应新因果模型的效果。
Aug, 2020
本文介绍了一种用于自监督图数据表示学习的概念简单而有效的模型,其通过数据增强生成输入图的两个视图,并通过受经典标准相关分析启发的创新特征级目标进行优化,旨在学习不变表示,并通过不同维度中的相关特性来防止退化解决方案,最终在七个公共图数据集上表现竞争力。
Jun, 2021
本文旨在从潜在组件识别的角度理解基于最大化相关性的深度多视角学习,并采用一种直观的生成模型来分析多视角数据,它是共享和私有组件的不同非线性混合物,通过最大化潜在相关性,可以保证从各个视角提取共享组件(在一定程度上)并且还证明了通过适当的正则化设计,每个视图中的私有信息可以被明确地分离出来。
Jun, 2021
提出了一种新的框架 Aligned Canonical Correlation Analysis (ACCA),通过迭代地解决对齐和多视角嵌入,解决了多数实际情况中需要的传统方法中不清晰的各种数据视角之间的对齐问题。
Dec, 2023