该研究论文综述了六种张量分解方法及其在神经网络中的应用，说明使用这些方法可以明显地减少模型的大小，运行时间和能耗，在边缘设备上实现神经网络时效果显著。

Apr, 2023

本研究是对卷积核张量分解退化性的第一项研究。我们提出了一种新方法，可以稳定卷积核的低秩近似，同时保证神经网络的高性能。在流行的 CNN 体系结构上评估我们的方法并显示它提供一致性的性能。

Aug, 2020

使用张量分解和量化相结合的方法，通过交替方向乘数法来压缩神经网络的权重，实现在保持预测质量的同时减少参数和计算量，并展示出与现有后训练量化方法相比的竞争性结果和高灵活性的优势。

Aug, 2023

通过平滑分析模型，本文提出了一种针对高度过完备情况（秩多项式于该张量维度）的张量分解的有效算法，且该算法具有鲁棒性，即使输入存在逆多项式误差，其表现依然可靠。该算法的线性独立性结果为我们在学习过程中应用张量方法提供了方便，为多视图模型和轴向高斯混合等学习问题的研究提供了更多的组件维度。

Nov, 2013

卷积神经网络（CNN）是最广泛使用的神经网络架构之一，在计算机视觉任务中展示出最先进的性能。通过 “张量化” 可以有效地减小较大的 CNN 的体积而保持准确性，本文通过评估截断密集（未进行张量化）CNN 的卷积核对其准确性的影响来探索这一问题，并发现这种 “相关压缩” 是如何在密集 CNN 中编码信息的固有特性。

Mar, 2024

低秩近似在大型语言模型中的应用及其对性能和模型偏差的影响的实证研究。

May, 2024

本文提出一种基于张量分解的模型压缩系统，采用交替方向乘子法进行优化求解。该系统适用于卷积神经网络和循环神经网络，可大幅降低计算量和参数量，并保持较高的准确性。

Jul, 2021

本文提出一种使用张量分解减少模型训练时间的方法，通过在原始架构下训练模型一小段时间后对其进行分解，在没有准确度损失或仅有 1.5％的准确度降低的同时训练速度提高了最多 2 倍，而且在 CPU 和 GPU 平台上均可使用。

Sep, 2019

本文研究了低秩张量逼近的两种主要张量 CUR 逼近的特性，扰动分析和高效采样策略，具有全面的理论和实证评估。

Mar, 2021

本文提出了新的学习算法，利用树状张量网络在最小二乘法下逼近高维函数，通过使用基于多变量函数的主成分分析的一般化，给定张量网络的维树或结构，提供一种生成嵌套张量子空间序列的算法，通过使用从先前生成的子空间依赖的分布生成的样本计算投影。提供期望下的误差界限。提出了适应特征空间和等级以达到规定误差的实用策略。还提出了一种通过合适的变量配对逐渐构建维度树的算法，允许进一步减少达到该错误所需的样本数。数值实验说明了所提出算法的性能，并表明可以得到稳定的逼近值，样本数接近于估计的张量网络的自由参数数目。

Apr, 2021