BriefGPT.xyz
Ask
alpha
关键词
spiking self-attention
搜索结果 - 2
用于高效视觉分类的 Spikformer 中傅立叶或小波基作为对应的自注意力
使用峰值傅立叶变换、小波变换及其组合替代传统的自注意力机制,提出了基于峰值或小波的 spikformer(FWformer),在视觉分类任务中验证并表明其能够达到可比甚至更高的准确性(0.4%-1.5%),更快的运行速度(训练速度提高 9%
→
PDF
3 months ago
Spikformer V2:使用 SNN 特征进行 ImageNet 高精度计算
通过结合自注意能力和生物特性,本论文提出了一种新颖的脉冲自注意 (SSA) 和脉冲变换器 (Spikformer),其中 SSA 机制消除了 softmax 的需求,利用基于脉冲的查询、键和值实现了稀疏视觉特征的捕获,而 SCS 则用于增强
→
PDF
6 months ago
Prev
Next