基于连通性的网络用于上下文感知识别
该论文提出了一个生物学上启发的上下文感知对象识别模型,该模型由双流体系结构组成,动态地整合对象和上下文信息,并顺序推理目标对象的类标签,该模型不需要为每个任务重新训练,在各种行为任务中近似人类水平性能,捕捉上下文增强对图像属性的依赖性,并提供了整合场景和对象信息进行视觉识别的初始步骤。
Nov, 2019
本综述介绍了卷积神经网络(CNN)在计算神经科学中作为良好模型的特征,以及这些模型如何在理解和实验生物视觉方面提供启示,并讨论了在基本物体识别之外的视觉研究中使用CNN的新兴机会。
Jan, 2020
该论文提出了一种新颖的Transformer风格模块,即Contextual Transformer(CoT)块,它完全利用输入键之间的情境信息来指导动态注意力矩阵的学习,从而增强了视觉表示能力,可作为更强大的骨干网。
Jul, 2021
本文提出了一个新的序列特征学习方法,Glance and Focus Network(GFNet),用于图像识别问题中的减少空间冗余和时间复杂度的优化,GFNet采用类似人类视觉系统的粗到细的学习方式处理图像,并通过强化学习的方式定位图像中的显著区域,从而避免了手动标注的需求。实验表明,GFNet能够大幅度降低MobileNet-V3在iPhone XS Max上的平均延迟 (1.3x),而精度没有任何损失。
Jan, 2022
本研究提出了一种基于Bridge-Mode Connectivity(BMC)方法的新型、基于上下文的机器学习模型训练方法,可以在不同的上下文环境下进行模型参数的特定调整以提高模型性能。
Nov, 2022
这项研究工作旨在通过多模态视觉-文本模型和基于线性单元之间的随机局部竞争的网络层,提出了一种框架,以更容易地发现视觉任务网络中每个神经元的个体功能,并生成描述性文本以解释网络的决策过程。
Oct, 2023
通过结合生物神经元原理,使用基于神经科学的计算模型来增强训练效率和提高准确性,以推动组合感受野模型作为卷积神经网络的基础层,从而在CIFAR-10、CIFAR-100和ImageNet-100数据集上实现性能显著提升(平均提升5%-10%)
Nov, 2023
我们提出了一种名为“动态网络架构”的新型智能系统架构,该架构依赖于稳定循环网络,并讨论其在视觉上的应用。我们的模型通过解释小区域网的较复杂特征为层次特征表示,与人工神经网络(ANNs)本质上不同。通过动态连接主义原则,我们的模型通过自组织机制,结合Hebbian可塑性和定期加强的抑制来稳定初级传入信号引起的神经激活。我们通过将线条片段组合成较长线条的实验,证明了DNA的可行性,即使在每个空间位置引入了高达59%的噪声,线条表示的构建仍然保持稳定。此外,我们展示了该模型能够从部分遮挡的输入中重建预期特征,并且可以推广到训练期间未观察到的模式。在本研究中,我们限制DNA在一个大脑皮层区域,并关注其内部机制,提供了关于一个独立区域的优势和不足的深入理解,并展望了未来工作如何通过组合多个区域来实现不变的物体识别。
Jul, 2024