Jul, 2014

大数据分析和大规模优化问题的张量网络

PDF
TL;DR本文探讨了基本的张量网络模型和相关算法，尤其是使用新的数学和图形表示的张量列车（TT）分解。通过张量化和使用量子化张量列车网络实现数据的超级压缩，对大规模数据优化问题进行了分布式表示，并通过优化迭代和近似张量缩并的方式，应用小型矩阵和张量运算来解决一系列难以用经典数值方法解决的问题，例如广义特征值分解，主成分分析 / 奇异值分解和规范相关分析。
tensor networkstensor train decompositionsquantized tensor train networkssuper compressionbig data optimization
发现论文，激发创造
  • 张量网络的降维和大规模优化。第 2 部分：应用和未来展望

    本文介绍了张量网络及其运算的简介并侧重于介绍用于数据 / 参数的超压缩高阶表示的张量网络模型及其应用， 包括支持张量机、求广义特征值、深度神经网络等优化问题的张量分解方法，如张量列车和分层 Tuck 分解，并通过图形方法以及基于核张量的低秩张量近似来解释张量网络是如何能够在大量数据上执行分布式计算的。

    Aug, 2017

  • 大数据处理的新方法：张量网络和张量分解

    本研究主要介绍了张量网络、张量分解、多元分析，低秩逼近以及大数据分析等多个方面，并讨论了其在异常检测、特征提取、分类、聚类分析、数据融合和集成、模式识别、预测建模、回归、时间序列分析和多元分析等领域中的潜在应用。

    Mar, 2014

  • 机器学习中的张量网络

    这篇论文介绍了张量网络及其在机器学习中的应用，张量网络通过分解大规模数据矩阵来实现数据的近似表达与计算的降维，是一种常用的数据处理技术。

    Jul, 2022

  • 量子启发张量网络的监督学习

    本研究探讨了如何使用张量网络来优化矩阵积态，以用于分类图像的模型参数化，且在 MNIST 数据集上取得了不到 1% 的测试集分类误差。此外，我们讨论了张量网络形式如何为学习模型提供附加结构，并提出了可能的生成性解释。

    May, 2016

  • 神经网络模型简化的张量分解：一篇综述

    该研究论文综述了六种张量分解方法及其在神经网络中的应用，说明使用这些方法可以明显地减少模型的大小，运行时间和能耗，在边缘设备上实现神经网络时效果显著。

    Apr, 2023

  • 张量列车秩最小化：统计效率和可扩展算法

    本文提出了一种基于张量分解的方法，通过引入凸弛松弛的方法和随机化技术构建一种具有可扩展性的交替优化算法，用于高维张量的完成任务，实验结果表明了该方法的性能。

    Aug, 2017

  • 张量环分解

    本文介绍了一种基本的张量分解模型：张量环分解，它能够通过一系列低维张量核的圆形多线性乘积来代表高维张量，并能够实现循环维度置换不变性，同时与 TT 分解具有相似的广泛表示能力。文章通过四种不同的算法对潜在核的优化进行了讨论，并探究了 TR 模型的数学性质。最后，在综合数据集上的实验验证了不同算法的性能。

    Jun, 2016

  • 张量神经网络：神经网络的泛化和模型压缩应用

    该研究提出了张量神经网络，利用高阶张量操作解决参数学习的难题，并实现了对高阶输入对象的自然处理，同时利用训练方法和压缩技术在精度和效率上均有提升。

    May, 2018

  • 卷积模型的张量网络可压缩性

    卷积神经网络（CNN）是最广泛使用的神经网络架构之一，在计算机视觉任务中展示出最先进的性能。通过 “张量化” 可以有效地减小较大的 CNN 的体积而保持准确性，本文通过评估截断密集（未进行张量化）CNN 的卷积核对其准确性的影响来探索这一问题，并发现这种 “相关压缩” 是如何在密集 CNN 中编码信息的固有特性。

    Mar, 2024

  • 树张量网络用于生成建模

    本论文介绍了一种树张量网络 (TTN)，并将其应用于基于生成式建模的自然图像数据集以提高其可解释性，在 MNIST 数据集的表现中也获得更好的对数似然度得分。

    Jan, 2019