May, 2023

张量积和超维计算

PDF
TL;DR在图嵌入的基础上，将一些结果推广到向量符号体系和超维计算的普遍设置中，正式建立张量积表示作为中心表示，并探讨了叠加、正交和张量积之间的数学关系。
发现论文，激发创造
  • 超高维计算调查：向量符号结构，第一部分：模型与数据转换

    这份综述研究了高维计算和向量象征体系结构 (HDC / VSA) 的计算框架，并提供了对已知计算模型和将各种输入数据类型转换为高维分布表示的重要方面的概述。

    Nov, 2021

  • 序列相似性保留超向量表示的递归绑定

    本研究提出了一种基于超维计算和向量符号架构的模型，该模型使用分布式表示对大型固定维度的数据进行一系列操作，其中包括将序列转换为分布式表示，同时保留相同序列元素和序列位移的相似性，并采用递归绑定和叠加操作形成序列位置的表示。该模型名为傅里叶全息约减表示，但可适用于其他超维计算和向量符号架构模型。

    Jan, 2022

  • 超高维计算综述，又称矢量符号架构，第二部分：应用、认知模型和挑战

    本文是第二部分的综述，介绍了高维计算框架 HDC / VSA 的应用、在认知计算和体系结构中的作用，以及未来工作方向；HDC / VSA 由高维分布式表示组成，并依靠其关键操作的代数属性来结合结构化符号表示和向量分布式表示的优点。

    Nov, 2021

  • 探索超维向量对特斯林机器的影响

    提出了一种基于超向量的方法，用于表达与任何输入数据相关的任意大概念集合，通过在超维空间构建向量大大扩展了 Tsetlin 机器的容量和灵活性，展示了如何根据提出的方法对图像、化学化合物和自然语言文本进行编码，并展示了所得到的超向量驱动的 Tsetlin 机器在知名基准测试中实现了显著更高的准确性和更快的学习速度，为 Tsetlin 机器开启了一个新的研究方向，即如何扩展和利用在超空间中操作的好处，包括新的布尔化策略、TM 推理和学习的优化，以及新的 TM 应用。

    Jun, 2024

  • 超维计算下的神经网络符号粘接

    本研究探讨了使用二进制超空间向量直接对神经网络的分类输出信号进行编码的概念，以便在符号层次上将不同的网络结合在一起。这种方法可以迭代地执行，甚至在单个神经网络上进行。我们发现此过程超越了现有技术水平，在几乎没有额外开销的情况下提高了性能。

    May, 2022

  • 从超向量中学习：超向量编码综述

    超维度计算（HDC）是一种模拟大脑结构，提供强大高效的处理和学习模型的新兴计算范式。本文聚焦于 HDC 系统输入和超向量生成两个方面，探讨各种生成超向量的方法，并探索其局限性、挑战和潜在优势，以深入理解 HDC 中各种编码类型及多样的应用领域中复杂的超向量生成过程。

    Aug, 2023

  • 稀疏分布式表示的变量绑定：理论与应用

    本文探讨了 Vector Symbolic Architectures 中稀疏分布式表示下的符号推导，通过实验证明了基于块编码进行变量绑定的方法具有良好的性质，并在认知推理和分类等实际应用中展示了它的价值。

    Sep, 2020

  • 超维计算作为一种系统汇集图像描述符的框架

    本文介绍了利用超维计算将图像描述符组合成单个向量的新方法，并将其与其他知识进行快速向量运算，以此提高移动机器人场所识别性能。

    Jan, 2021

  • 超维变换在分布建模、回归和分类中的应用

    超维计算 (HDC) 是一种具有巨大潜力的计算范例，尤其在机器学习和数据科学领域引起了广泛关注。本文介绍了超维变换的理论基础，并展示了其在机器学习中的应用，包括回归、分类、统计建模等方面。

    Nov, 2023

  • 广义全息简化表示

    通过引入 Generalized Holographic Reduced Representations (GHRR)，本文探讨了基于 Hyperdimensional Computing (HDC) 的深度学习方法，通过在保留连接主义方法的灵活性的同时，允许显式规定符号方法中的表征结构，从而提高了编码复杂数据结构的能力。

    May, 2024