并行时空绑定
我们介绍了一种新颖的框架 SlotSSMs,用于在状态空间模型中引入独立机制以保持或促进信息的分离,评估表明我们的设计在多对象建模和长期时间依赖性的任务中显著提高了性能。
Jun, 2024
感知和推理个体物体及其相互作用是构建智能人工系统的目标,而 Slot Structured World Models 是一种结合基于 Slot Attention 的物体中心化编码器和潜在图形动力学模型的世界模型,用于解决当前方法在提取物体表示和区分相似物体方面存在的问题。
Jan, 2024
本文提出了一种名为 Neural Systematic Binder 或 SysBinder 的神经机制,用于构建一种新的结构化表示,即块槽表示,用于促进系统性推广。SysBinder 以无监督的方式获得这种结构,其可以应用于任何模态,并可以作为任意神经网络的调入模块。实验表明,SysBinder 在 CLEVR-Tex 等视觉复杂场景图像中提供了更好的因素解缠,同时在受控场景生成中演示了因素级系统性。
Nov, 2022
通过重写神经动力学到一般形式并添加遮罩来避免未来输入,我们提出了平行尖峰神经元(PSN),它使用时间步之间的密集连接来最大化时间信息的利用,并且在模拟速度和时态 / 静态数据分类方面具有非常大的优势。这是关于平行化尖峰神经元的第一项研究,可以成为尖峰深度学习社区的基石。
Apr, 2023
以无监督方式生成离散概念表示的神经概念绑定器介绍了 “概念槽位编码”,通过对象中心块槽位编码的软绑定和基于检索的推理的硬绑定,使得概念检查和外部知识的直接整合更加简便,同时展示了硬绑定机制对性能的不损害,并可无缝集成于神经和符号模块,用于复杂推理任务,如在新引入的 CLEVR-Sudoku 数据集上所验证。
Jun, 2024
本研究提出了一种基于无监督条件化槽注意力和概率槽字典(PSD)的方法,利用抽象的物体属性向量作为关键字、参数化高斯分布作为相应值,来学习特定的物体级别条件分布,并在多个下游任务中展示了其在物体发现、组合场景生成和组合视觉推理方面的优势。在物体发现任务中,我们的方法表现出相似或更好的性能,并在组合视觉推理的少样本适应性任务中显著提高了场景构成能力。
Jul, 2023
本文提出了一种名为 SloTTAr 的新算法,该算法使用 Slot Attention 模块和自适应计算来学习关于无监督学习中子程序数量的信息,相比于竞争基线模型具有更好的性能和更快的训练速度。
Mar, 2022
本文提出一种模块化的设计方法,将时空序列模型分解为空间编码器 - 解码器和预测器两个模块。通过在 KTH-Action 和 MovingMNIST 数据集上进行实验,我们提高了计算性能并获得了最先进的结果。
Oct, 2022
针对脉冲神经网络的在线学习问题,本研究提出了适用于在线学习的神经突触自适应空时学习算法(SOLSA)。相比传统的通过时间反向传播(BPTT)算法,SOLSA 在内存需求上更低,具有更平衡的时间工作负载分配,并且通过调度权重更新、提前停止训练和自适应突触滤波等增强技术,提高了收敛速度和学习性能。与其他非 BPTT 基于的脉冲神经网络学习方法相比,SOLSA 在平均学习准确度上表现出 14.2% 的提升。此外,SOLSA 相比于 BPTT,在平均学习准确度提高了 5% 的同时,内存成本减少了 72%。
Jul, 2023