提出一种称为张量环表示的新型张量分解的网络结构,该结构采用低阶核张量的循环多线性乘积,通过低秩近似的方法来有效地学习张量环表示,可以在计算上更有效地执行基本操作,并且通过与现有的张量列网络相比实验结果表明,该模型更具表达能力和一致性信息。
May, 2017
基于期望最大化 (EM) 的非负张量分解统一框架,通过优化 Kullback-Leibler 散度来避免在每次 M 步骤和学习率调整中的迭代,并建立了低秩分解和多体逼近之间的一般关系,进而利用了多体逼近的闭式解来同时更新所有参数。我们的框架不仅为各种低秩结构(包括 CP、Tucker 和 Train 分解)提供了统一的方法,还包括了张量的组合形成混合以及稳健的自适应噪声建模。实证方面,与传统的基于张量的方法相比,我们的框架在离散密度估计方面提供了更好的泛化。
May, 2024
本文介绍了一种基本的张量分解模型:张量环分解,它能够通过一系列低维张量核的圆形多线性乘积来代表高维张量,并能够实现循环维度置换不变性,同时与 TT 分解具有相似的广泛表示能力。文章通过四种不同的算法对潜在核的优化进行了讨论,并探究了 TR 模型的数学性质。最后,在综合数据集上的实验验证了不同算法的性能。
Jun, 2016
本文介绍了两种基于随机投影的张量环分解算法。实验结果表明,这两种算法具有较高的压缩性,可应用于深度学习数据集压缩和高光谱图像重建等领域。
Jan, 2019
本文提出了一种基于采样的、使用杠杆分数样本交替最小二乘法的张量环分解计算方法,其中利用张量环张量的特殊结构,可高效地评估杠杆分数并获得复杂度次线性的方法,该方法在合成数据和真实数据实验中与现有方法相比具有显著加速效果,同时保持良好的准确性,提供了一个快速特征提取的示例。
Oct, 2020
使用层级张量网络方法通过经验分布来逼近高维概率密度,利用随机奇异值分解技术解决张量网络中张量核的线性方程,该算法的复杂性与高维密度的维数成线性关系,通过多项数值实验分析表明了该方法的有效性。
Apr, 2023
本文提出了一种可扩展且具有鲁棒性的张量分解算法,能够处理大规模张量数据的缺失值和异常值。该算法通过自适应填充缺失值和在分解过程中识别异常值的新颖自加权最速下降方法,结合张量环模型,采用快速 Gram 矩阵计算 (FGMC) 方法和随机子张量草图策略大大降低了存储和计算复杂度。实验结果表明,在存在异常值时,该方法优于现有的张量分解方法,并且比现有的强健张量完成算法运行速度更快。
May, 2023
本文研究了一种高效的参数估计方法,可用于广泛的潜变量模型,特别是那些具有张量结构的模型,包括高斯混合模型、隐马尔可夫模型和潜在狄利克雷分配模型,通过对表示模型可观测矩阵的低阶矩(通常为二阶和三阶)的张量进行分解获得。方法为鲁棒性较强、可有效计算,并可应用于多个流行的潜变量模型。
Oct, 2012
文章提出了一种新的基于张量分解的方法用于学习混合线性动态系统,在不需要分离条件的情况下,可以与 Bayes 最优分簇竞争,在具有挑战性的部分观测情况下工作。
Jul, 2023
本文提出了一种新颖的张量完成方法,该方法通过利用张量环潜空间的低秩结构,将核范数正则化引入潜在 TR 因子,从而通过奇异值分解,同时获得最优秩的潜在 TR 因子和恢复的张量。实验结果表明,所提出的方法相对于现有的算法具有更好的表现和效率。
Sep, 2018