Jan, 2020

向量符号架构的比较

PDF
TL;DR本文提出了 11 种可用的 VSA 实现，并讨论了它们在底层向量空间和操作符方面的相似性和差异性，并通过实验比较了它们的容量、非精确解绑操作的逼近质量、混合捆绑和绑定操作对查询响应性能的影响以及在两个示例应用程序中的性能。
vector symbolic architecturesvsa implementationsbinding operationsapproximation qualityquery answering performance
发现论文，激发创造
  • 稀疏分布式表示的变量绑定：理论与应用

    本文探讨了 Vector Symbolic Architectures 中稀疏分布式表示下的符号推导，通过实验证明了基于块编码进行变量绑定的方法具有良好的性质，并在认知推理和分类等实际应用中展示了它的价值。

    Sep, 2020

  • 基于向量符号架构的非配对图像转换

    使用矢量符号结构（VSA）作为理论框架，将 VSA 约束应用于对抗学习，通过学习矢量映射来反转翻译，以确保与源内容的一致性，从而提高了图像翻译的效果。

    Sep, 2022

  • LARS-VSA：用于学习抽象规则的矢量符号架构

    人类认知在符号推理方面表现出色，从有限样本中推导出抽象规则。本文通过结合符号和连接主义方法，提出了一种神经符号化结构；同时，在学习有限数据量时，采用了将对象级特征与抽象规则分离的 “关系瓶颈” 策略。此外，本文借助于鲁棒性更强的高维计算方法来构建具有组合性的体系结构，并设计了一种新颖的高维注意机制。相较于现有技术，在各种测试数据集上，本系统具有更高的效率且保持相同或更高的准确性。

    May, 2024

  • 基于自注意力的矢量符号结构的语义分解

    基于自注意力的更新规则和 Hopfield 网络的 log-sum-exp 能量函数及范数限制状态的新变体共振器网络被引入，可显著提高性能和收敛速度，使得算法具有更大的关联记忆能力，可应用于感知基模式识别、场景分解和物体推理等多个任务。

    Mar, 2024

  • VSA4VQA: 将矢量符号体系扩展到自然图像的视觉问答中

    提出了一种名为 VSA4VQA 的新型 VSAs 的实施，它是第一个将 VSA 扩展到复杂空间查询的模型，并通过引入学习的空间查询掩模和预训练的视觉 - 语言模型来解决视觉问题回答任务，评估结果表明它能够有效地编码自然图像，并取得与最先进的深度学习方法竞争性的性能。

    May, 2024

  • 解决渡鸦先知测试的神经矢量符号架构

    利用我们提出的神经向量符号架构（NVSA）对 Raven's 渐进矩阵数据集进行端到端训练，N VSA 的平均准确率达到了 87.7％，而 I-RAVEN 数据集则为 88.1％。与神经符号方法内的符号推理相比，NVSA 的概率推理具有两个数量级的更快速度。

    Mar, 2022

  • MBAT 向量符号架构的正交矩阵以及用于 JSON 的 “软” VSA 表示

    本文介绍了一种基于 VSA 的 MBAT 方法 - 通过随机矩阵乘法实现相关术语的绑定，但这样做引入了不稳定性问题。本文提出使用正交矩阵代替随机矩阵来解决这个问题，并探讨了如何使用 MBAT 向量表示来完成 JSON 数据的机器学习和最近邻搜索。

    Feb, 2022

  • 超高维计算调查：向量符号结构，第一部分：模型与数据转换

    这份综述研究了高维计算和向量象征体系结构 (HDC / VSA) 的计算框架，并提供了对已知计算模型和将各种输入数据类型转换为高维分布表示的重要方面的概述。

    Nov, 2021

  • 超高维计算综述，又称矢量符号架构，第二部分：应用、认知模型和挑战

    本文是第二部分的综述，介绍了高维计算框架 HDC / VSA 的应用、在认知计算和体系结构中的作用，以及未来工作方向；HDC / VSA 由高维分布式表示组成，并依靠其关键操作的代数属性来结合结构化符号表示和向量分布式表示的优点。

    Nov, 2021

  • 稀疏二进制超向量的认知建模与学习

    基于 VSA 理论框架，提出了一种使用稀疏二进制超向量的认知模型，并引入学习算法来从输入数据流中引导模型的训练，在有效性和透明度方面有了显著改进。该模型模拟人类认知过程，在会话中可以进行在线训练，并探索了在自然语言处理领域中利用这些超向量进行词级嵌入的进一步应用。

    Sep, 2023