attention block | BriefGPT - AI 论文速递

关键词attention block

搜索结果 - 6

多视点 Swin Transformer 的乳房 X 光分类
本文提出了一种创新的基于 Transformer 的多视图网络，用于解决乳房 X 线照片分类中的挑战。我们的方法通过引入一种新颖的基于移动窗口的动态注意力块，促进多视图信息的有效集成，并在空间特征映射级别上促进该信息在视图之间的一致传递。此
PDF4 months ago
EMNLP测量 Transformer 中上下文信息的混合
该论文提出了一种名为 ALTI 的方法，通过考虑注意力模块（multi-head attention, residual connection and layer normalization）以及定义一种新的度量方法来测量各层之间的令牌交互
PDF2 years ago
MMMHFC: 多头特征协作用于少样本学习
针对 Few-shot Learning 中存在的数据稀缺问题和特征提取模型的多样性，本文提出了一种名为 MHFC 的算法来解决分布偏移问题，该算法采用子空间学习的方法将多头特征进行融合，并设计了一个注意力模块自动更新 feature 权重
PDF3 years ago
AAAI通过将抽象语法树建模为图来完成代码补全
本文提出一种名为 CCAG 的新的代码完成方法，它将部分 AST 的平坦序列建模为 AST 图，使用 AST 图注意力块捕捉表示学习中的不同依赖关系，并通过多任务学习优化代码完成的子任务，无需调整任务权重即可自动实现任务平衡，实验结果表明
PDF3 years ago
AAAI使用引导损失和混合注意力的级联网络来寻找好的对应关系
该研究提出了一种使用神经网络来找到正确对应物的解决方案，并通过分类对应物来估计相对姿态的方法，该方法通过新的 Guided Loss 和混合注意力块来设计级联网络以逐步优化结果，达到了基准数据集上的最佳性能。
PDF3 years ago
用于改进视频异常检测的动态感知特征
通过提出一种时间性增强的网络模型，学习一种能感知运动的特征，并通过多示例学习进行分类，从而在 UCF Crime 数据集上显著超越以往方法，在视频反常检测和异常行为识别任务上取得了较好的表现。
PDF5 years ago