本研究提出了一种新的神经网络结构，它将底部网络和对称的顶部网络相结合，通过单一的统一机制实现了学习和引导注意力等两种主要功能。该模型在多任务学习基准测试中表现出竞争力，并且还能够解决一些在生物学建模中出现的神经科学问题。

Jun, 2023

深度学习模型与人类决策过程相似，但其决策过程易受干扰。我们提出了一种新的注证过程，通过模拟选择性注意力来增强深度学习模型的鲁棒性。实证评估表明，这种新的注证过程可以提高深度学习模型的准确性，并帮助我们建立安全措施以减轻其在人工和自然对抗样本方面的脆弱性。

Nov, 2023

本文提出了一种顶向下的神经网络结构，可以在图像分辨率上进行粗到细的信息处理，并能有效对抗高频噪声的对抗攻击，同时提高了网络的决策可解释性和对象驱动性能力。

Apr, 2020

本篇研究提出一种混合自下而上和自上而下视觉关注机制，能在对象和其他显著图像区域的水平上计算注意力权重，实现更深入图像理解，将其应用于图像字幕生成和视觉问答任务中，取得了优于现有技术的成绩。

Jul, 2017

本文旨在探讨如何在涉及语言和视觉的多模态任务中最佳地整合语言和感知处理，并提出了使用语言来调节自下而上处理以及自上而下注意力的 U-Net 模型。 实验结果表明，使用语言控制自下而上的视觉处理可提高多任务的细分结果表现。

Mar, 2020

使用人类注意力地图强化深度卷积神经网络的监控信号，并将其应用于目标识别，大幅提高了准确性并生成更接近人类观察者的可解释性更强的视觉特征。

May, 2018

该研究建立了一种迭代编码器 - 解码器网络模型，利用重构上的反馈机制来加强前馈目标识别过程的重要信息，有效应对常见的图像扰动；研究还发现，该网络模型在对象识别方面，空间与特征化的注意力是相辅相成的，并可以解释人类的知觉误差。

Sep, 2022

本研究探索了双向的神经网络结构和基于顶部反馈的推理方式，通过将神经元作为具有二次能量函数的整流潜变量，它可以被视为分层整流高尔基模型，并展示了其在具有挑战性的关键点本地化任务上的领先表现。

Jul, 2015

ThalNet 是一个深度学习模型，通过 Thalamus 受到新皮质通讯的启发，由循环神经网络模块组成，并通过路由中心发送特征，赋予模块在多个时间步骤上分享特征的灵活性。我们观察到通用架构，如前馈神经网络和跳跃连接，在我们的架构中成为特例，同时学习了新的文本压缩任务的连接模式。我们的模型在几个顺序基准测试上优于标准循环神经网络。

Jun, 2017

该研究提出了一种轻量级的顶部注意力模块 (TDAM)，通过迭代生成一个 “视觉探照灯”，以更多上下文相关的特征图上执行通道和空间调制，从而增强 CNN 在多个目标识别基准测试上的性能，并且能够在不需要显式监督的情况下本地化单个对象或特征。

Nov, 2021