Dec, 2023

深度广义典型相关分析再探

PDF
TL;DR探索多个观测随机向量之间的潜在共变性的经典统计方法 —— 典型相关分析 (CCA) 以及其扩展和变化在发现多视图数据集中的共同随机因素方面的能力。该研究设计了一种新颖高效的模型，适用于典型相关分析的深度扩展，并克服了现有方法的局限性，将私有组件建模为在给定共同组件的条件下条件独立，从而提供了一种更紧凑的表述形式。通过合成数据和实际数据的实验验证了我们的结论和方法的有效性。
canonical correlation analysislatent co-variationmultiview datasetsdeep ccaprivate components
发现论文，激发创造
  • 规范相关分析方法教程

    本文介绍了经典相关分析如何通过正则化、核、和稀疏等不同变体实现对变量集对之间的关系的研究。同时作者提供了数值例子，希望这篇文章成为数据分析人员使用经典相关方法的实用工具。

    Nov, 2017

  • 非参数标准相关分析

    本研究采用特征值分解解决非参数正相关分析问题，通过数据估计种群密度，降低计算负担，提高非参数 CCA 的性能，同时提出了部分线性 CCA 算法用于处理单个视图的线性投影问题。

    Nov, 2015

  • 深度变分正则化典型相关分析

    本文介绍了一种名为 “深度变分典型相关分析” 的深度多视图学习模型，它通过深度神经网络对非线性观测模型进行参数化，扩展了线性 CCA 的潜变量模型解释。同时，我们还提出了一种名为 “VCCA-private” 的 VCCA 变体，它可以在提取共享变量的基础上，提取每个视图内的 “私有变量”，在没有硬指导的情况下分离多视图数据的共享信息和私有信息。实际数据集的实验结果表明，我们的方法在各个领域都具有竞争力。

    Oct, 2016

  • 深度广义典型相关分析

    提出了 Deep Generalized Canonical Correlation Analysis (DGCCA) 方法，通过学习非线性变换最大化信息关联，结合非线性（深度）表示学习的灵活性与多个独立来源视图的信息统计力量，通过在两个不同数据集上的三个下游任务训练，成功击败了已有的标准线性多视图技术，在语音转录和 Twitter 用户的 hashtag 推荐等方面表现更好。

    Feb, 2017

  • 张量规范相关分析用于多视图降维

    本研究介绍了一种名为张量 CCA (TCCA) 的多视角学习方法，它可以处理任意数目的视角的数据。通过分析不同视角的协方差张量，TCCA 试图直接最大化多个 (超过两个) 视角的典型相关性，并探索了容易被忽略的高阶统计数据量，可以通过最小化数据协方差张量的最佳秩 1 近似值来解决。

    Feb, 2015

  • 朝着对齐的规范相关分析的初步构想和概念验证结果

    提出了一种新的框架 Aligned Canonical Correlation Analysis (ACCA)，通过迭代地解决对齐和多视角嵌入，解决了多数实际情况中需要的传统方法中不清晰的各种数据视角之间的对齐问题。

    Dec, 2023

  • 公平典型相关分析

    该论文研究了正则相关分析（CCA）中的公平性和偏见问题，并提出了一种框架，通过最小化与受保护属性相关的相关差异误差来减轻不公平现象。我们的方法使得 CCA 能够从所有数据点中学习全局投影矩阵，同时确保这些矩阵与特定群体的投影矩阵具有可比性。通过对合成和实际数据集的实验评估，证明了我们的方法在减少相关差异误差方面的有效性，而且不会影响 CCA 的准确性。

    Sep, 2023

  • 稀疏规范相关分析

    本文提出了一种基于最小二乘法的稀疏凸框架解决典型相关分析（CCA）的新方法，特别关注了在第一个视图中使用原始表示而在第二个视图中使用对偶表示的情形，展示了该方法在英语 - 法语和英语 - 西班牙语配对语料库中的 Mate-Retrieval 任务上的应用，表明当原始特征数较大时，Sparse CCA 优于 Kernel CCA。

    Aug, 2009

  • 随机非线性成分分析

    通过利用随机性设计了新的可伸缩非线性 PCA 和 CCA 变体，并扩展到关键的多元分析工具，例如谱聚类或 LDA，并在真实世界的数据上进行了实验，与最先进的方法进行了比较。

    Feb, 2014

  • 稀疏 CCA：自适应估计与计算障碍

    本文探讨了适应性极小化和可计算的高维度下领先的稀疏规范系数向量的估计方法，得出了基于高斯模型的计算下限，并提出了第一个基于高斯单钉合模型的稀疏 PCA 的计算下限。

    Sep, 2014