- EMNLP利用 PCA 进行词向量单维度训练选择
本文提出了一种基于 PCA 的快速可靠的方法来选择单词嵌入的维度数量,该方法通过压缩嵌入矩阵来平衡模型大小和准确性以优化性能,并在各种数据集和语言任务中进行实验来证明其有效性。
- CVPR通过协方差归一化实现高效多域网络学习
本论文研究了深度神经网络的多领域学习问题,并提出了一种自适应层和称作协方差规范化(CovNorm)的简单方法来减少其参数。实验证明,在目标数据集顺序或同时可用的情况下,CovNorm 可以与全面调整的网络具有相当的性能。
- MMWasserstein GAN 可以执行 PCA
研究生成敌对网络是一个强大的框架,而文中的研究将 GANs 应用于简单的线性生成器高斯数据场景下,发现原 GAN 无法恢复最优 PCA 解,而 Wasserstein GAN 可以在样本大小的极限下接近 PCA 解,因此可能成为一种基于广泛 - 具有隐藏低秩结构的随机线性赌博机
本文提出了 Projected Stochastic Linear Bandit(PSLB)算法,采用基于主成分分析(PCA)的投影方法,寻找高维特征空间中的低秩结构,以减少学习任务的复杂度。使用 PSLB 算法对预训练深度神经网络提取的高 - 使用 PCA 的低投入结构化 CNN 设计方法
该研究论文提出了一种基于 PCA 的单次分析方式,可在不进行迭代重新训练的情况下,优化计算机视觉中的深度学习模型,包括 AlexNet,VGG 和 MobileNet,减少计算操作次数和参数数量。
- 公平主成分分析的代价:多一维
本研究探讨了标准的 PCA 降维技术是否会无意中为两个不同人群产生不同的数据表示,提出了公平 PCA 的概念,并给出了一个多项式时间算法来找到数据的低维度表示,最终在真实世界的数据集上证明了该算法可以用于有效生成公平的低维表示。
- 数据科学家的量子机器学习
该文介绍了量子机器学习算法,重点在于通过例子和详细的解释难点来使数据科学家能够理解;此外,提出了一种用于量子 PCA 算法的分数提取方法,还介绍了前馈量子神经网络中的一种新成本函数。
- 静态和动态鲁棒性 PCA 与矩阵补全:综述
本文介绍了过去十年来有关 RPCA 和其动态对应物(鲁棒子空间跟踪)的大量文献,讨论了它们的理论保证和性能表现,并提供了性能和速度的实证比较;同时还简要讨论了低秩矩阵完成问题,它是 RPCA 的一个简化特例。
- 鲁棒子空间学习:鲁棒主成分分析、鲁棒子空间跟踪和鲁棒子空间恢复
本研究概述了鲁棒子空间学习和跟踪领域。通过罕见因素加上低秩矩阵分解(S+LR),在存在异常值的情况下解决了罕见子空间学习或 PCA 问题,并发现针对长数据序列的跟踪鲁棒子空间的更好的模型是假设数据位于低维子空间中,而该模型的异常值被作为稀疏 - 加速随机幂迭代
我们提出了一种简单的变种 Power Iteration 方法,使用动量项,既实现了最优的 PCA 速率和迭代复杂度,也适用于随机数据集,并利用现代方差缩减技术,加速了很多非凸优化问题。
- KDD鲁棒、深度和归纳式异常检测
本文介绍了一种基于深度神经网络的鲁棒自编码器模型,该模型可以对数据进行异常检测,并能够学习捕获大多数数据点的非线性子空间。
- NIPS矩阵乘积的单遍 PCA
本文提出了一种新的算法,通过仅对两个矩阵进行一次遍历即可计算出 $A^TB$ 的低秩逼近,该算法保留有关 A、B 的附加信息(例如行和列范数等)并利用这些附加信息从草图中获得改进的逼近。我们的主要分析结果将该方法的谱范数保证与现有的两个遍历 - NIPS相关主成分分析:数据和噪声相关时的主成分分析
该论文研究了主成分分析(PCA)在数据和噪声存在相关性或互相依赖的情况下的应用。通过简单的数据和噪声相关性假设,该论文提出了一种基于标准特征值分解(EVD)的 PCA 解决方案的正确性结果,并且提出了一种泛化的 EVD 方案 - clust - MM一种基于指纹的访问控制方法,使用主成分分析和边缘检测
通过结合 PCA 和边缘检测构建图像空间,并使用 Euclidean 和 Mahalanobian 距离之间的关系从中提取出新特征 H,从而决定指纹图像是否适用于给定数据库;最终在接受者操作特性 (ROC) 曲线上选择合适的参数 H 阈值以 - 使用随机算法实现主成分分析
本文介绍了针对 MATLAB 的基于随机化方法的低秩逼近算法,通过多个测试发现这些算法在准确性、速度和内存使用、易用性、可并行性和可靠性等方面都优于或至少与经典方法相当,但对于估计谱范数和计算最小奇异值及对应的奇异向量依然有待提高。
- 最近邻搜索的频谱方法
论文研究高维最近邻搜索问题的谱算法,旨在提供理论解释为何在实践中谱最近邻算法优于理论上的最优随机投影方法,其使用了高维数据的 PCA 降维和重复计算等技术。
- 异构人脸识别的共享表示学习
本研究提出了一种基于深度学习无监督算法的异质人脸识别框架,通过在局部人脸点处提取 Gabor 特征,并使用 RBM 学习本地共享表示来消除每个人脸点周围的异质性。最后,将局部 RBM 的共享表示连接在一起,并通过 PCA 处理,成功地解决了 - 带有截断 MSG 的主成分分析随机优化
本文研究 PCA 作为随机优化问题,并提出了一种新的随机逼近算法,称为 “矩阵随机梯度”(MSG),以及一个实用的变体,Capped MSG。我们进行了理论和实证研究。
- 带有最优遗憾的在线 PCA
我们研究了在线 PCA 的 GD 和 EG 算法,发现它们在最坏情况下都是最优的,并且 EG 在稀疏实例下表现不佳,但当考虑到损失预算的遗憾界时,EG 仍然是最优的。在扩展的 PCA 模型中,我们发现当自然界可以使用最大特征值受限的正矩阵时 - 广义主成分分析 (GPCA)
该论文提出了一种代数几何解决从样本数据点分割未知数量和不同维度的子空间的问题的方法,并且使用一组次数为子空间数量的齐次多项式来表示子空间,并且在数据中线性估计这些多项式,从而将子空间分割降为每个子空间分类一个点,并且通过最小化某个距离函数从