network architecture design | BriefGPT

关键词network architecture design

搜索结果 - 5

Transformer 模型中的关键要素：并非所有的注意力都是必要的
通过使用基于相似性的度量标准，本文研究了 Transformer 中不同模块（如 Blocks、MLP 和 Attention 层）之间的冗余性变化，发现一大部分 Attention 层可以被安全剪枝，从而降低内存和计算成本，并提出了一种同
PDF10 days ago
重访神经网络的持续学习：架构视角
本文研究网路架构设计对连续学习的影响，以通过网络宽度、深度和组件等方面的系统性研究，提出了一种 CL 友好的网络架构设计方法，该方法在参数方面比传统的 CL 架构紧凑 86%，61% 和 97% 的参数，在 Class IL 和 Task
PDF2 months ago
实时语义分割：遥感中的简要调查与比较研究
远程感知影像的实时语义分割是一个具有挑战性的任务，需要在效果和效率之间进行权衡。本论文总结了设计高效深度神经网络的基本压缩方法，并对远程感知影像的实时语义分割的最新发展进行了简要而全面的调查。实验结果表明，现有的大多数高效深度神经网络都具有
PDF10 months ago
ICCVEMR-MSF: 自监督循环单目场景流利用自运动刚体性
我们提出了一种名为 EMR-MSF 的优越模型，通过借鉴监督学习范围内的网络架构设计，在两个时间连续的单目图像中理解三维结构和三维运动，并进一步通过精心构建的相机运动聚合模块塑造出显式和强健的几何约束；该模块提出了一个刚性软遮罩来过滤出稳定
PDF10 months ago
基于 Swin-Conv-UNet 和数据合成实现的实用式盲去噪
本文旨在从网络架构设计和训练数据合成的角度解决当前真实图像去噪的问题，提出了一种新的网络架构设计和噪声退化模型，分别插入到 UNet 框架中从而达到当前最先进的性能水平。
PDF2 years ago