attention maps | BriefGPT - AI 论文速递

关键词attention maps

搜索结果 - 48

用于稀疏检索任务的样本高效上下文学习机制
本文研究了大型语言模型展示的 “上下文学习” 现象，并解释了预训练的 transformer 模型如何在合理的假设下执行上下文学习。我们推出了一种机制，使得 transformer 模型能够正确划分上下文，推断出稀疏线性回归假说，并应用此假
PDFa year ago
Recycle-and-Distill: 基于注意力映射重用和掩码蒸馏的 Transformer 语音 SSL 模型通用压缩策略
本研究提出基于 Transformer 的语音自监督学习模型压缩方法，包括重用注意力矩阵并采用新型蒸馏策略。我们的通用压缩策略可在 SUPERB 基准测试中实现 7.72％的音素错误率和 9.96％的单词错误率。
PDFa year ago
CVPR基于半监督领域适应的 Patch-Mix Transformer 模型：从游戏角度出发
本文提出了一种名为 PMTrans 的模型，从博弈论的角度解决了视觉转换器在挑战性无监督领域自适应（UDA）任务中的问题，通过提出一种基于 ViT 的模块 ——PatchMix 的方法来有效地建立中间域，并利用特征和标签空间中的两个半监督
PDFa year ago
AAAI自我强调网络用于连续手语识别
本文提出自我强调网络（SEN）以突出信息区域提高手语和面部表情识别精度，通过轻量级子网络和注意力图动态增强特征，并用时序自我强调模块自适应突显关键帧，以减少计算量和昂贵的监督。基于 PHOENIX14，PHOENIX14-T，CSL-Dai
PDF2 years ago
ECCV通过自我增强注意机制提高低数据情况下的细粒度视觉识别
本文提出了自我增强注意力机制的方法，针对少样本学习情况下细粒度视觉识别的问题，在学习中生成注意力地图用于特征提取，实现对样本之间和分类之间共享的关键区域的专注，得到了在低数据情况下明显提高的结果。
PDF2 years ago
重新思考轻量级非局部神经网络中 Softmax 的有效性
本文通过实验证明 NL block 中 softmax 操作效率低下，提出使用 scaling factor 来优化 attention maps，取得了在 CIFAR-10、CIFAR-100 和 Tiny-ImageNet 数据集上的改
PDF2 years ago
FEAT: 带有注意力机制的人脸编辑
本文介绍了一种基于 StyleGAN 生成器和学习到的注意力图的方法，通过在编辑图像时使用注意力图作为掩蔽层，同时使用 CLIP 算法来引导潜空间的编辑，实现对面部局部区域的控制性编辑。实验结果表明，与其他替代方法相比，我们的方法可以实现非
PDF2 years ago
TransMix：面向 Transformer 视觉任务的混合注意力机制
本文提出了一种名为 TransMix 的混合标签方法，基于 ViT 的注意力图混合标签，这种方法不需要引入额外的参数和 FLOP，并且在不同的基于 ImageNet 数据集的分类任务中都能够显著提高 ViT 的性能以及在语义分割，目标检测和
PDF3 years ago
ICLR视觉 Transformer 的条件位置编码
本文提出了一种条件位置编码方案 (CPE) 用于视觉 Transformers，通过在输入标记的本地邻域上生成并使其动态生成的位置编码，以解决模型寻找较长输入序列的问题，从而在图像分类任务中保持所需的平移不变性，并通过实验证明，CPVT 比
PDF3 years ago
残差卷积演化关注机制
本文提出一种基于演化注意力的新型通用机制，通过残差连接实现前一层的注意力指导后一层，并采用卷积层来建模对注意力图的演化过程，在多个任务上显著提高了性能。
PDF3 years ago
仅仅一个解释是不够的：用于图像分类的结构化注意力图
本文提出了结构化注意力图 (SAG)，通过捕捉图像区域的不同组合对分类器的置信度的影响，压缩地表示图像的一组注意力图。为了更深入地了解分类器的决策，我们提出了计算 SAG 的方法和 SAG 的可视化。我们对 SAG 与传统注意力图在回答图像
PDF4 years ago
BlendMask: 自顶向下与自底向上相遇的实例分割
本文提出了一种新的旨在优化实例分割方法的卷积神经网络，该网络称为 BlendMask。BlendMask 可以有效地将实例级信息与语义信息相结合，并能够学习每个实例的注意力图，并且具有较快的推理速度，其可以与最先进的一阶段检测框架轻松集成，
PDF5 years ago
AAAIExplanation vs Attention: 一种用于 VQA 注重力获取的双人博弈
使用对抗训练作为监督学习来提高注意力映射，改善视觉问答任务的表现，同时与其他学习分布的方法相比，发现对抗损失函数表现更好。
PDF5 years ago
EMNLP基本替换的构成性泛化
本研究探索使用双重表示来编码组合性，一种生成注意力图，另一种将输入转化为数字的映射。我们改进了每种表示中的熵来提高泛化能力。在五项自然语言处理任务中，实验结果显示本方法对于传统方法有显著的改进，协助实现人类级别的组合语言学习。
PDF5 years ago
ICCVU-CAM: 基于不确定性的类激活映射的可视化解释
本研究针对深度学习模型的解释提出了一种方法，通过梯度获取与误分类样本更相关的确信度估计和提供视觉注意力图，特别是在视觉问答任务中，该方法采用现代概率深度学习方法，并进一步通过这些估计梯度进行改进，得到具有人类注意区域相关性的先进的注意力图，
PDF5 years ago
MM基于注意力引导的混合透镜融合的光场超分辨率
本文利用新颖的端到端学习法解决通过混合镜头（高分辨率相机周围有多个低分辨率相机）重建高分辨率光场图像的问题，通过深度多维和跨域特征表征回归一个具有空间一致性的中间估计，同时构建另一个维护高频纹理的中间估计，在通过学习的注意图整合两个中间估计
PDF5 years ago
CVPR关注判别不确定性用于域自适应
通过考虑各个区域的概率确定度并指定关注这些区域，本文提出了一种方法来解决无监督领域适应的问题，能够在各种数据集上实现业界领先水平的结果。
PDF5 years ago
DeCaFA: 面部对齐的深度卷积级联网络
DeCaFA 是一种端到端的深度卷积级联体系结构，它使用全卷积阶段保持整个级联的完整空间分辨率，并利用多个链接转移层生成面部对齐任务的每个标记的基于注意力的地标注意力图。通过加权中间监督以及阶段之间的高效功能融合，DeCaFA 可以学习逐步
PDF5 years ago
看清前先看远：微弱监督数据增强网络用于细粒度视觉分类
本文提出了基于弱监督数据增强网络（WS-DAN）来增强数据的判别力，通过产生注重于目标物体区域的注意力图，从而提升深度神经网络的训练，从而提高了图像分类的准确性，得到了优于现有最优模型的结果。
PDF5 years ago
视觉问答模型中显式偏差的发现
本研究利用规则挖掘算法对视觉问答模型中的数据偏差进行分析，并从中发现了一些亮点和异常行为。
PDF6 years ago