我们提出了一个关于通用框架，用于指定和研究深度学习架构的难题的见解。我们认为目前为止的关键尝试缺乏一个能够将模型必须满足的约束与其实现进行协调的桥梁。我们的提议是应用范畴论 —— 更具体地说，是参数化映射的范畴论，作为一个单一的理论，优雅地包含了这两种类型的神经网络设计。为了支持我们的观点，我们展示了这个理论如何恢复由几何深度学习引起的约束，并介绍了从神经网络的多样化领域中提取的许多架构的实现，如递归神经网络。我们还说明了这个理论如何自然地编码计算机科学和自动机理论中的许多标准结构。

Feb, 2024

该论文提出了范畴论和计算语言学之间的翻译作为自然语言处理的基础，结合语法、语义和语用三个方面，以字符串图表达统一的句法结构，利用函子将图表达式计算为逻辑、张量、神经或量子计算的语义，通过组成游戏将生成的函子模型进行组合，从而解决语言处理任务。DisCoPy 是用于计算字符串图的 Python 库的一部分，将得到的范畴、语言和计算结构之间的对应关系描述，并通过组合的自然语言处理应用进行演示。

Dec, 2022

这篇论文提出了一种基于范畴论语言的深度学习的新数学基础，通过系统化现有方法并将其概念统一到一个框架中，研究了参数化性和双向性这两个主要性质，并将其应用于 backpropagation、神经网络架构和监督学习的建模中，提供了一个统一和组合的框架。

Mar, 2024

本研究论文探讨了张量范畴的基本原理，利用张量积的通用性原则，在深度网络架构中开创了新的方法。我们的主要贡献是引入张量注意力和张量交互机制，这是一种创新的方法，利用张量范畴提高深度网络的计算效率和表达能力，并可以推广到量子领域。

Nov, 2023

介绍了一种扩展基于范畴的表示意义的方法，将其应用于概念空间模型，提出了凸关系范畴，构建了名词、形容词和动词类型的概念空间，通过例子说明了复合短语的构成方式，建立了一种新的认知复合方法。

Mar, 2017

本文提出了一个新的模型框架，使用范畴论的概念空间广义化，并展示了如何从数据中自动地学习概念表示，包括经典和量子两种不同的实例化。通过范畴论的形式化，我们详细阐述了该框架的基本原理。我们认为使用范畴论，特别是使用弦图来描述量子过程，可以帮助阐明我们方法的一些重要特点。在现有的概念空间框架基础上，我们从简单形状的图像中学习了形状、颜色、大小和位置等概念，在经典实现中概念表示为高斯函数，在量子实现中表示为量子效应。在经典情况下，我们开发了一个新的模型，受到概念的 Beta-VAE 模型启发，但更紧密地与语言相连接，使得概念的名称成为图形模型的一部分。在量子情况下，概念通过一个混合的经典 - 量子网络进行学习，该网络通过卷积神经网络进行经典图像处理，并通过参数化量子电路生成量子表示。最后，我们考虑了我们的量子概念模型是否可以被视为 Gardenfors 意义上的概念空间。

Nov, 2023

本文介绍了将基于范畴的组合语义学理论 [6] 应用于认知的概念空间模型，并引入凸关系类别作为范畴性组合语义学的新设置，强调了凸结构对概念空间应用的重要性，展示了如何构建复合类型，如形容词和动词的概念空间模型，并通过详细实例阐述了这一新模型。

Aug, 2016

该论文提出了一种基于范畴论的新型深度学习应用，通过范畴论构建了一种比原始构建方式更为丰富的结构，能够更好地理解和处理群等变神经网络的线性层函数，特别地，提出了一种快速计算通过群等变线性层的传入向量结果的算法，证明了范畴论能够对深度学习的其他领域产生积极的影响。

Apr, 2023

本文提出了一个基于范畴论的分类框架，其中介绍了自我状态意识的概念作为自我意识的类比，并使用图表进行代理间通信，并通过将目标设计为自我状态函数的输出来保证模型的友好性。

Mar, 2023

本文介绍了 DisCoPyro 作为一种结构学习框架，将范畴论结构（例如对称幺半范畴和操作符）与分摊变分推断相结合，可以应用于变分自动编码器等机器学习任务中，并提供了数学基础和具体应用，比较了与其他模型（如神经符号模型）的实验性能，预测 DisCoPyro 最终有助于人工通用智能的发展。

Mar, 2023