Mar, 2024

基于自注意力的矢量符号结构的语义分解

PDF
TL;DR基于自注意力的更新规则和 Hopfield 网络的 log-sum-exp 能量函数及范数限制状态的新变体共振器网络被引入，可显著提高性能和收敛速度，使得算法具有更大的关联记忆能力，可应用于感知基模式识别、场景分解和物体推理等多个任务。
vector symbolic architecturesinterpretable machine learningresonator networkhopfield networkassociative memory
发现论文，激发创造
  • 解决渡鸦先知测试的神经矢量符号架构

    利用我们提出的神经向量符号架构（NVSA）对 Raven's 渐进矩阵数据集进行端到端训练，N VSA 的平均准确率达到了 87.7％，而 I-RAVEN 数据集则为 88.1％。与神经符号方法内的符号推理相比，NVSA 的概率推理具有两个数量级的更快速度。

    Mar, 2022

  • LARS-VSA：用于学习抽象规则的矢量符号架构

    人类认知在符号推理方面表现出色，从有限样本中推导出抽象规则。本文通过结合符号和连接主义方法，提出了一种神经符号化结构；同时，在学习有限数据量时，采用了将对象级特征与抽象规则分离的 “关系瓶颈” 策略。此外，本文借助于鲁棒性更强的高维计算方法来构建具有组合性的体系结构，并设计了一种新颖的高维注意机制。相较于现有技术，在各种测试数据集上，本系统具有更高的效率且保持相同或更高的准确性。

    May, 2024

  • 分布式表示在神经形态硬件上实现鲁棒多时间尺度计算

    使用高维随机向量作为最小表示单元的矢量符号结构（VSAs）嵌入鲁棒的多时间尺度动力学到基于吸引子的 RSNNs，通过叠加对称的自联想权重矩阵和非对称的状态转换项来嵌入有限状态机进入 RSNNs 动力学，通过模拟高度非理想的权重、实验性的闭环存储器硬件设置，和在 Loihi 2 上验证，表明了 VSA 表示在嵌入鲁棒计算与循环动力学到神经形态硬件中的有效性，无需参数微调或平台的特定优化，这将 VSA 推进为认知算法在神经形态硬件中的高级表示不变的抽象语言。

    May, 2024

  • 用共振器网络进行神经形态视觉场景理解

    提出了一种基于神经形态学的解决方案，使用基于向量符号体系结构的高效因式分解网络，实现物体位置和其刚性变换的推断。

    Aug, 2022

  • 稀疏分布式表示的变量绑定：理论与应用

    本文探讨了 Vector Symbolic Architectures 中稀疏分布式表示下的符号推导，通过实验证明了基于块编码进行变量绑定的方法具有良好的性质，并在认知推理和分类等实际应用中展示了它的价值。

    Sep, 2020

  • 向量符号架构的比较

    本文提出了 11 种可用的 VSA 实现，并讨论了它们在底层向量空间和操作符方面的相似性和差异性，并通过实验比较了它们的容量、非精确解绑操作的逼近质量、混合捆绑和绑定操作对查询响应性能的影响以及在两个示例应用程序中的性能。

    Jan, 2020

  • 基于向量符号架构的非配对图像转换

    使用矢量符号结构（VSA）作为理论框架，将 VSA 约束应用于对抗学习，通过学习矢量映射来反转翻译，以确保与源内容的一致性，从而提高了图像翻译的效果。

    Sep, 2022

  • 递归神经网络中的序列索引和工作记忆理论

    本文提出了一类用于索引和存储符号序列或模拟数据向量的递归神经网络，利用储池计算的性质，采用随机输入权重和正交递归权重实现之前在向量符号体系结构（VSA）中描述的编码原理，并提出了优化语音缓存网络，使其能够在处理数据流时在线工作的新型 VSA 模型的设计。

    Feb, 2018

  • VSA4VQA: 将矢量符号体系扩展到自然图像的视觉问答中

    提出了一种名为 VSA4VQA 的新型 VSAs 的实施，它是第一个将 VSA 扩展到复杂空间查询的模型，并通过引入学习的空间查询掩模和预训练的视觉 - 语言模型来解决视觉问题回答任务，评估结果表明它能够有效地编码自然图像，并取得与最先进的深度学习方法竞争性的性能。

    May, 2024

  • 稀疏二进制超向量的认知建模与学习

    基于 VSA 理论框架，提出了一种使用稀疏二进制超向量的认知模型，并引入学习算法来从输入数据流中引导模型的训练，在有效性和透明度方面有了显著改进。该模型模拟人类认知过程，在会话中可以进行在线训练，并探索了在自然语言处理领域中利用这些超向量进行词级嵌入的进一步应用。

    Sep, 2023