- 高阶张量恢复的 L1 - 范数正则化 Kaczmarz 算法的能力
本文提出了利用稀疏性和 / 或低秩性的张量数据重建高阶张量的新颖 Kaczmarz 算法,并开发了块和加速变体,以及对这些算法的充分收敛分析。对合成和真实数据集上的各种数值实验表明,所提方法在图像和视频处理任务中具有显著的潜力和有效性,例如 - FLAASH:用于稀疏高阶张量收缩的灵活加速器架构
这篇论文介绍了一个灵活且模块化的加速器设计,用于稀疏张量收缩,在深度学习工作负载中实现了超过 25 倍的加速效果。
- 高阶数组建模的概率块术语分解
在这篇文章中,我们提出了一种高效的变分贝叶斯概率 BTD 方法,利用 von-Mises Fisher 矩阵分布对多线性 Tucker 部分在 BTD 中施加正交性,通过合成和两个真实数据集的实验,我们突出了贝叶斯推断过程,并演示了在噪声数 - TensorCodec: 张量的紧凑有损压缩,无需强数据假设
TENSORCODEC 是一种用于一般张量的有损压缩算法,通过将神经张量列车分解与 Tensor-Train 分解相结合,将输入张量折叠成更高阶的张量,重新排序输入张量的模索以揭示可供 NTTD 利用的模式,实验结果表明 TENSORCOD - 张量回归
回归分析是数据分析和机器学习领域的关键研究领域之一,它致力于探索变量之间的依赖关系,通常使用向量进行表示。高维数据的出现带来了传统数据表示方法的挑战,而张量作为向量的高维扩展,被认为是高维数据的自然表示。本书对基于张量的回归模型及其应用进行 - GSPMD: 用于 ML 计算图的通用可扩展并行化
GSPMD 是一种自动的、基于编译器的并行化系统,可用于对机器学习计算进行并行处理,它使用少量标注进行张量分布,能够在各种模型上表达不同的并行化范式,并解决了多个技术挑战,可在具有万亿级参数的模型上实现 50%至 62%的计算利用率。
- 张量空间中的广义语言模型
通过利用张量网络和张量分解,本文提出了一种名为 “张量空间语言模型” 的高维语义空间,其张量表示是 n-gram 语言模型的一种泛化,可用于语言建模。
- 张量分解及其在机器学习中的应用简介
本文将全面介绍张量(Tensors)的概念和分解方法,并探讨它们在机器学习中的应用,特别是在无监督学习和多关系数据分析等领域的优越性,同时结合实例研究了张量估计混合模型的基本方法,并提供了相关软件类库的参考。
- 张量收缩层用于简化深度神经网络
本研究探讨了将张量压缩作为神经网络层的应用,并提出了张量压缩层的概念。通过在图像识别任务中使用张量压缩技术,本文提出的网络模型在减少模型参数数量的同时保证了准确性,并在某些情况下实现了更好的性能。
- 相对误差张量低秩逼近
本文介绍了如何在规定 Frobenius 范数的情况下对张量进行相对误差的低秩近似,提出了两种算法,并展示了在基于指数时间假设下的时间下限。
- TensorLy: Python 中的张量学习
TensorLy 是一个用于 Python 的高级 API,旨在为张量方法和深度张量化神经网络提供软件支持,可在多个 CPU 或 GPU 上扩展,与 NumPy、MXNet、PyTorch、TensorFlow 和 CuPy 等框架无缝集成 - 信号处理和机器学习中的张量分解
矩阵的高维拓展 —— 张量 (tensor) 已在信号处理、数据挖掘和机器学习等领域得到广泛应用,本文旨在为那些想要了解和深入研究张量的研究人员和从业人员提供起点,它包括了基础与应用,如张量秩和分解、基本的张量分解模型及其关系和性质、性能分 - 基于流形优化的异构张量分解聚类
本文针对多维数组数据具有丰富结构,而向量化方法难以完整表述结构信息的问题,提出了一种基于新型异构 Tucker 分解模型的子空间聚类算法,并探究了二阶黎曼几何的多项式流形及核心域中的优化问题。数值实验表明,该算法与基于张量因数分解的最新聚类 - 朝向形式分布语义:使用张量模拟逻辑演算
本文讨论了如何使用矩阵和张量来模拟谓词逻辑,并提出可以模拟量词的张量演算变体,最后讨论了这些变体之间的关系与未来研究的方向。
- 组合分布式语义的多步回归学习
介绍一种基于张量及向量的学习方法,并在数据集上进行了评估,表现超过了现有的先进方法,同时也适用于解决组合分布式模型可能遇到的更微妙问题。
- 关于张量、稀疏性和非负因子分解
本文研究了稀疏计数数据的多线性建模问题,提出了一个以泊松分布为假设的描述性张量分解模型和相应的算法和理论,并介绍了一种基于主导极小化方法的泊松张量分解算法,称为 CP-APR,并在几个数据集上的结果得到了验证。
- 计算张量特征对的移位幂法
本研究论文提出了一种基于移位对称高阶幂法的算法 (SS-HOPM),用于计算满足某些条件的实对称张量特征对。通过使用固定点分析法,我们进一步确定了该方法能够发现哪些特征对和不能发现哪些特征对,并通过数值例子展示了该方法的适用性。
- 张量的特征值数量
通过研究多线性数值代数中最近研究的张量的本征向量,我们确定了一般张量的本征向量和本征值的数量,并且证明了对称张量的归一化本征值的数量总是有限的。我们还研究了特征多项式及其系数与鉴别式和结果的关系。
- MACH: 快速随机张量分解
本文提出了一种新的采样算法 MACH,用于计算 Tucker 分解,能够有效地处理大规模,计算密集型和后期数据分析的多方面数据。
- 张量秩与最佳低秩逼近问题的病态性
本文讨论了针对高于三阶的张量的最优低秩逼近定理。我们提出了使用弱解来克服低秩逼近问题的不适定性,并从代数几何的角度将我们的工作与张量的现有研究联系起来。