深度张量网络
本文概述了张量网络状态和方法在物理、量子信息学、人工智能等科学领域中的应用,并简要介绍了相关概念和发展,包括张量网络结构、算法、全局和规范对称性、费米子、拓扑序、相分类、纠缠哈密顿量、AdS / CFT、二维 Hubbard 模型、二维量子反铁磁体、共形场论、量子化学、无序系统和多体定位等。
Dec, 2018
本文研究了量子启发式算法和张量网络在工业环境和背景中的适用性和可行性,并通过对可用文献的编译和受其方法影响的使用案例分析,来分析这些技术的局限性以确定其潜在可扩展性。
Apr, 2024
这篇论文提出了一种基于范畴论语言的深度学习的新数学基础,通过系统化现有方法并将其概念统一到一个框架中,研究了参数化性和双向性这两个主要性质,并将其应用于 backpropagation、神经网络架构和监督学习的建模中,提供了一个统一和组合的框架。
Mar, 2024
我们引入了一种能够学习含有连续随机变量的分布的新型张量网络生成模型,首先在矩阵乘积态的背景下推导出通用表达能力定理,证明了该模型家族能够以任意精度逼近任何充分平滑的概率密度函数;然后在几个合成和真实世界数据集上对该模型的性能进行基准测试,发现该模型在连续和离散变量的分布上学习和泛化良好;我们还开发了建模不同数据领域的方法,并引入了一个可训练的压缩层,发现在有限的内存或计算资源下,该层能够提高模型的性能。总体而言,我们的方法为量子启发式方法在生成学习这个快速发展领域的有效性提供了重要的理论和实证证据。
Oct, 2023
本文探讨张量网络与深度学习之间的数学联系,使用通过多尺度纠缠重整方法派生的训练算法训练二维分层张量网络完成图像识别问题,并研究了张量网络的量子特性,包括量子纠缠和保真度,并发现这些量子特性可以作为图像类别以及机器学习任务的表征。
Oct, 2017
我们提出了一个关于通用框架,用于指定和研究深度学习架构的难题的见解。我们认为目前为止的关键尝试缺乏一个能够将模型必须满足的约束与其实现进行协调的桥梁。我们的提议是应用范畴论 —— 更具体地说,是参数化映射的范畴论,作为一个单一的理论,优雅地包含了这两种类型的神经网络设计。为了支持我们的观点,我们展示了这个理论如何恢复由几何深度学习引起的约束,并介绍了从神经网络的多样化领域中提取的许多架构的实现,如递归神经网络。我们还说明了这个理论如何自然地编码计算机科学和自动机理论中的许多标准结构。
Feb, 2024
本文探讨了基本的张量网络模型和相关算法,尤其是使用新的数学和图形表示的张量列车(TT)分解。通过张量化和使用量子化张量列车网络实现数据的超级压缩,对大规模数据优化问题进行了分布式表示,并通过优化迭代和近似张量缩并的方式,应用小型矩阵和张量运算来解决一系列难以用经典数值方法解决的问题,例如广义特征值分解,主成分分析 / 奇异值分解和规范相关分析。
Jul, 2014
本文介绍了张量网络及其运算的简介并侧重于介绍用于数据 / 参数的超压缩高阶表示的张量网络模型及其应用, 包括支持张量机、求广义特征值、深度神经网络等优化问题的张量分解方法,如张量列车和分层 Tuck 分解,并通过图形方法以及基于核张量的低秩张量近似来解释张量网络是如何能够在大量数据上执行分布式计算的。
Aug, 2017