BriefGPT.xyz
Ask
alpha
关键词
downsampling modules
搜索结果 - 2
通过精确的梯度反向传播改进下采样,提高基于 Transformer 的突触型神经网络性能
本文提出了 ConvBN-MaxPooling-LIF(CML)这种新型降采样方式以解决现有状态下深度脉冲神经网络(包括 Spikformer 和 Spikingformer)中梯度误差向后传播不准确的问题,并且在 ImageNet、CIF
→
PDF
a year ago
ECCV
UniNet:卷积、Transformer 和 MLP 统一结构搜索
通过引入可学习的卷积、Transformer 和 MLP 操作符的混合结构,并利用上下文感知降采样模块进行特征适应,本文使用强化学习搜索算法在统一搜索空间中进行搜索,达到了在 ImageNet 数据集上取得更高精度和更高效率的目标,相对于
→
PDF
2 years ago
Prev
Next