Sep, 2020

稀疏分布式表示的变量绑定：理论与应用

PDF
TL;DR本文探讨了 Vector Symbolic Architectures 中稀疏分布式表示下的符号推导，通过实验证明了基于块编码进行变量绑定的方法具有良好的性质，并在认知推理和分类等实际应用中展示了它的价值。
vector symbolic architecturessymbolic reasoningsparse distributed representationsvariable bindingneural networks
发现论文，激发创造
  • 向量符号架构的比较

    本文提出了 11 种可用的 VSA 实现，并讨论了它们在底层向量空间和操作符方面的相似性和差异性，并通过实验比较了它们的容量、非精确解绑操作的逼近质量、混合捆绑和绑定操作对查询响应性能的影响以及在两个示例应用程序中的性能。

    Jan, 2020

  • 稀疏二进制超向量的认知建模与学习

    基于 VSA 理论框架，提出了一种使用稀疏二进制超向量的认知模型，并引入学习算法来从输入数据流中引导模型的训练，在有效性和透明度方面有了显著改进。该模型模拟人类认知过程，在会话中可以进行在线训练，并探索了在自然语言处理领域中利用这些超向量进行词级嵌入的进一步应用。

    Sep, 2023

  • 分布式表示在神经形态硬件上实现鲁棒多时间尺度计算

    使用高维随机向量作为最小表示单元的矢量符号结构（VSAs）嵌入鲁棒的多时间尺度动力学到基于吸引子的 RSNNs，通过叠加对称的自联想权重矩阵和非对称的状态转换项来嵌入有限状态机进入 RSNNs 动力学，通过模拟高度非理想的权重、实验性的闭环存储器硬件设置，和在 Loihi 2 上验证，表明了 VSA 表示在嵌入鲁棒计算与循环动力学到神经形态硬件中的有效性，无需参数微调或平台的特定优化，这将 VSA 推进为认知算法在神经形态硬件中的高级表示不变的抽象语言。

    May, 2024

  • 解决渡鸦先知测试的神经矢量符号架构

    利用我们提出的神经向量符号架构（NVSA）对 Raven's 渐进矩阵数据集进行端到端训练，N VSA 的平均准确率达到了 87.7％，而 I-RAVEN 数据集则为 88.1％。与神经符号方法内的符号推理相比，NVSA 的概率推理具有两个数量级的更快速度。

    Mar, 2022

  • 基于自注意力的矢量符号结构的语义分解

    基于自注意力的更新规则和 Hopfield 网络的 log-sum-exp 能量函数及范数限制状态的新变体共振器网络被引入，可显著提高性能和收敛速度，使得算法具有更大的关联记忆能力，可应用于感知基模式识别、场景分解和物体推理等多个任务。

    Mar, 2024

  • LARS-VSA：用于学习抽象规则的矢量符号架构

    人类认知在符号推理方面表现出色，从有限样本中推导出抽象规则。本文通过结合符号和连接主义方法，提出了一种神经符号化结构；同时，在学习有限数据量时，采用了将对象级特征与抽象规则分离的 “关系瓶颈” 策略。此外，本文借助于鲁棒性更强的高维计算方法来构建具有组合性的体系结构，并设计了一种新颖的高维注意机制。相较于现有技术，在各种测试数据集上，本系统具有更高的效率且保持相同或更高的准确性。

    May, 2024

  • MBAT 向量符号架构的正交矩阵以及用于 JSON 的 “软” VSA 表示

    本文介绍了一种基于 VSA 的 MBAT 方法 - 通过随机矩阵乘法实现相关术语的绑定，但这样做引入了不稳定性问题。本文提出使用正交矩阵代替随机矩阵来解决这个问题，并探讨了如何使用 MBAT 向量表示来完成 JSON 数据的机器学习和最近邻搜索。

    Feb, 2022

  • 序列相似性保留超向量表示的递归绑定

    本研究提出了一种基于超维计算和向量符号架构的模型，该模型使用分布式表示对大型固定维度的数据进行一系列操作，其中包括将序列转换为分布式表示，同时保留相同序列元素和序列位移的相似性，并采用递归绑定和叠加操作形成序列位置的表示。该模型名为傅里叶全息约减表示，但可适用于其他超维计算和向量符号架构模型。

    Jan, 2022

  • 递归神经网络中的序列索引和工作记忆理论

    本文提出了一类用于索引和存储符号序列或模拟数据向量的递归神经网络，利用储池计算的性质，采用随机输入权重和正交递归权重实现之前在向量符号体系结构（VSA）中描述的编码原理，并提出了优化语音缓存网络，使其能够在处理数据流时在线工作的新型 VSA 模型的设计。

    Feb, 2018

  • 张量积和超维计算

    在图嵌入的基础上，将一些结果推广到向量符号体系和超维计算的普遍设置中，正式建立张量积表示作为中心表示，并探讨了叠加、正交和张量积之间的数学关系。

    May, 2023