- ICLR基于海布学习的正交投影,用于脉冲神经网络的持续学习
基于侧向连接和赫比学习的神经操作提供对脑回路的新见解,并展示了如何在神经系统中实现正交投影,由此解决了关于神经形态计算的遗忘问题。
- 基于 Hebbian 学习的线性回归参数估计
通过建立上下界,我们证明了这种 Hebbian 学习规则在仅有线性回归损失的查询可用时,可以实现比任何独立于数据选择查询的非自适应方法更快的收敛速度。
- 自构建神经网络
为了在任务执行期间自动构建神经网络结构提出了一种自构建神经网络(SBNN)。 该模型采用 Hebbian 学习和修剪相结合的方法,以拟合神经元的突触形成过程。 在与传统神经网络的比较中,结果表明其表现通常优于传统神经网络,并且在验证测试中 - CVPR全测试时间适应的神经调制 Hebbian 学习
本文研究了深度神经网络领域中跨域性能退化问题,提出了一种基于完全测试时间自适应方法来提高网络适应性能的方法,其中采用了软式 Hebbian 学习过程和反馈神经调节层来辅助在线适应。实验结果表明,该方法可以显著改善网络模型的适应性能并超越现有 - 利用 NICO 和 Grow-When-Required Networks 进行自主目标达成学习
使用发展性机器人学习方法,自主学习在 NICO 平台上实现视觉和运动协调的能力,从定向注视到手眼协调,机器人通过学习关联运动指令和时间相关的感官知觉以及使用多个 GWR 网络学习各种复杂性运动行为,在 NICO 的身体上做出适应性反应并以 - 脉冲神经网络的在线时域训练
本文提出了一种称为 OTTT 的 SNN 在线训练方法,通过跟踪神经前体活动和利用瞬时损失和梯度来实现向前的时间学习,并理论分析证明了 OTTT 的梯度能够在前馈和递归条件下提供与基于脉冲表示的梯度相似的下降方向,同时避免了 BPTT 对 - 稀疏分布数据中是否可以避免维数灾难采用类何比学习规则?
本文探讨了大脑如何使用 Hebbian 学习规则来避免高维稀疏分布表示的 “维度灾难” 问题,并使用特定的稀疏数据集来证实使用 Restricted Boltzmann Machines 分类器的好处。
- 通过融合和演化赫比学习规则:通过减少规则的数量增强泛化能力
通过演化和合并 Hebbian 学习规则并将多个连接分配到单个规则中来改善人工智能代理的鲁棒性,并通过 K-Means 聚类方法将规则组合来大幅减少可训练参数的数量,进而提高代理的适应性。
- 样本效率情景下的赫比半监督学习
提出了一种基于 Hebbian 学习与梯度下降相结合的半监督训练策略,通过在深度卷积神经网络的内部层使用基于 Hebbian 学习的无监督方法预训练,仅用标注样本训练最后的全连接层,实现了在标注样本数量较少情况下对象识别表现优于现有技术的目 - 本地可塑性规则可使用自监督对比预测学习深度表征
这篇论文提出了一种受到神经科学和自监督深度学习最新进展启发的学习规则,使用局部,赫布规则进行权重更新,并具有深度分层的图像、语音和视频表示。
- MMOrtus:一种情感驱动的(人造)生物智能方法
Ortus 是一个简单的虚拟生物,也是研究和开发基于生物的人工智能的初始框架,实现了有机神经系统中观察到的许多机制,包括兴奋性和抑制性化学突触、双向间隙连接和包括感性学习的海比安学习。
- ICMLCSNNs: 无监督、不使用反向传播卷积神经网络的表示学习
本文提出了一种基于卷积神经网络、自组织映射聚类和赫布学习的卷积自组织神经网络(CSNNs)的建模方法,可以在无需反向传播的情况下完成学习,利用所提出的建模方法可以用于图像分类领域并取得与 Backpropagation 方法相当的性能。
- 图像分析的本地无监督学习
本文提出了一种局部学习算法,结合图像数据和卷积滤波器、块归一化和非线性方法,可以成功地对 CIFAR-10 和 ImageNet 32x32 数据集进行分类,并展示了有关如何使用无标签数据从中学习通用表示的成功转移学习案例。
- 使用赫比快速权重进行元学习
本文提出了一种用于元学习的模型,将近期的神经网络方法与早期的联想记忆思想统一起来。该模型通过慢速权重和 Hebbian 学习规则构建快速权重,在 Omniglot、Mini-ImageNet 和 Penn Treebank 等数据集上取得了 - 一个基于 Hebbian /Anti-Hebbian 神经网络的线性子空间学习模型:从流数据多维缩放推导
本文介绍了一种基于局部学习规则的生物学本质上可行的反馈神经网络,该网络利用多维缩放代价函数学习流数据的主要子空间,从而实现神经计算的算法化理论。
- 在线独立分量分析的统计动力学
探讨了通过简单的 Hebbian 学习算法分离高维数据集中的非高斯分量的情况,介绍了该算法适用于学习 Stiefel 流形的自然梯度变体,并研究了大输入维度下两种算法的参数轨迹。