网格细胞及其在人工智能中的潜在应用
通过训练循环神经网络在 2D 区域中进行导航任务的方式,我们发现神经网络中出现了类似于网格细胞、边界细胞和其他空间相关细胞的响应模式,这些表现形式与实验观察到的现象相吻合,表明在神经回路中,类似于网格细胞和边界细胞等细胞对于有效表示空间是自然的解决方案。
Mar, 2018
通过结合编码理论、动力系统、函数优化和监督深度学习等多个方法,我们提出了一个自监督学习框架,通过数据、数据增强、损失函数和网络架构等方面的优化,能够在没有监督位置信息的情况下训练出多个栅格细胞模块,且这些网络和形成的表示在训练分布之外也能很好地泛化。该研究对于对栅格细胞起源感兴趣的神经科学家以及对于新颖自监督学习框架感兴趣的机器学习研究人员具有重要洞见。
Nov, 2023
本文旨在研究计算模型对处理脑组织中复杂连接模式的作用,我们找到了几类计算模型可以有效探索多尺度时空领域中异质性神经元相互作用和复杂网络连接带来的潜在功能性和后果。
Mar, 2022
探讨大脑如何通过产生神经信号与外界进行交互的工作机制,治疗大脑疾病,理解智力的重要性;使用网格细胞创建更普遍和强大的网格模块 SD2E,构建一种交互和自我强化的认知系统;可以用网格模块作为外界和系统之间的交互介质以及系统内的自我强化介质;通过分析现有的神经科学和认知科学理论,提出特殊和通用规则来解释人与外部世界之间的不同互动。
Apr, 2023
介绍了一种使用继任表示和神经网络的模型,以及单词嵌入向量,用于构建三个不同概念的认知图,从而根据输入提供多模态上下文信息,基于输入和预先存在的知识表示的相似性度量。
Jul, 2023
通过傅立叶分析和计算神经科学的最新发现,本研究引入一种新颖的位置编码方案,受到网格细胞的启发,利用嵌入到金字塔视觉变换器架构中的 GridPE 技术,提供了一个在任意高维空间中进行位置编码的统一框架,并在转换器的性能上显著提高表现。
Jun, 2024
利用傅里叶分析工具拓展了通过特定状态转移之间的网络格代码的特征向量泛化推广到任意平移不变有向转移结构的模型,并证明了其在路径整合、预测规划和方向感知等任务中的适用性.
Jun, 2020
该研究使用神经网络学习 32 种动物的特征向量,并基于继承表示原理构建了一个 “动物空间” 的认知地图,该地图能够使用插值技术准确地表示完全新的或不完整的输入,并在不同的认知地图级别中呈现出不同的特征。
Oct, 2022
最近的人工智能研究中,借鉴了神经科学的理论进展,特别是人工神经网络的发展,从而显著提升了对视觉和自然语言处理等复杂认知任务的复制能力。然而,人工神经网络在持续学习、适应性知识传输、鲁棒性和资源效率等方面仍存在困难,而这些能力在生物系统中得到了无缝地处理。本文总结了最新的生物启发模型、学习规则和架构,并提出了一个增强人工神经网络的生物信息框架。我们提出的双重框架方法突出了脉冲神经网络在模拟多样化的脉冲行为和树突形态与功能多样化的神经计算中的潜力。最后,我们概述了如何整合脑启发的细胞区模型和任务驱动的脉冲神经网络,互相平衡着生物启发和复杂性,并为持续学习、适应性、鲁棒性和资源效率等迫切的人工智能挑战提供可扩展的解决方案。
Jul, 2024