self-attention mechanisms | BriefGPT

关键词self-attention mechanisms

搜索结果 - 38

增量学习与自注意机制提升神经系统辨识
卷积神经网络是建模视觉皮质神经元转移函数的最先进方法。这篇论文发现，与参数匹配的标准卷积神经网络相比，非局部网络或自注意机制在整体调谐曲线相关性和调谐峰值这两个关键度量上可以提高神经响应预测，并且可通过分解网络确定每个上下文机制的相对贡献，
PDF20 days ago
基于语义图注意网络和距离信息的 3D 全身姿态估计
我们开发了一种新颖的语义图注意力网络，它能够从自注意力捕获全局上下文的能力中受益，同时利用图卷积来处理骨架的局部连通性和结构约束。我们还设计了一个身体部分解码器，用于提取和改进与身体特定部分相关的信息。此外，我们的方法还包含距离信息，增强了
PDFa month ago
DCNN: 双交流深度神经网络的实现与微观对象识别的交互式深度学习判别器
通过结合卷积操作和自注意机制的优势构建了新型双通道神经网络模型（DCNN），用于改进细粒度图像分类的准确性。实验证明，将 DCNN 作为骨干网络用于分类特定的细粒度基准数据集，在性能上相较于其他先进的卷积或注意力细粒度骨干网络，分别获得了
PDF2 months ago
当医学影像遇上自注意力机制：一段并未很成功的爱情故事
通过在医学图像上扩展卷积神经网络结构，研究了自注意机制的应用，发现仅仅加入自注意机制并不能提升现有的完全卷积方法的性能。
PDF2 months ago
LeGrad：通过特征形成敏感度的视觉 Transformer 可解释性方法
针对 Vision Transformers（ViTs）这一计算机视觉领域的标准架构在可解释性方面的挑战，提出了一种名为 LeGrad 的特定于 ViTs 的解释性方法。该方法使用自我注意机制计算与 ViT 层的注意力图相关的梯度，将梯度作
PDF3 months ago
利用注意力机制进行基于补丁的生物医学图像分类
医学图像分析可以通过一种扎根于自注意机制的创新架构得到促进。传统的卷积神经网络（CNN）在捕捉像素级复杂空间和时间关系时需要帮助，而其卷积窗口的固定大小限制了输入波动。为了克服这些限制，我们提出了基于注意力模型而非卷积的新范式。这些模型作为
PDF3 months ago
CVPRKTPFormer: 基于运动学和轨迹先验知识增强的 3D 人体姿态估计 Transformer
本文提出了一种新颖的运动学和轨迹先验增强 Transformer（KTPFormer），它克服了现有基于 Transformer 的 3D 人体姿势估计方法的弱点，即其自注意机制中的 Q、K、V 向量的导出都基于简单的线性映射。我们提出了两
PDF3 months ago
HINT：具有掩膜感知编码和增强注意力的高质量修复变换器
通过引入新颖的遮罩感知像素混洗下采样模块（MPD）和在模型内进行高级推理的同时保持提取自损坏图像的可见信息的完整性的方法，以及通过空间激活通道注意力层（SCAL）提供的有效自注意力机制在多个尺度上对损坏图像建模，我们提出了一种端到端的高质量
PDF4 months ago
在医学视觉与基于语言的疾病检测中研究多模态联邦学习中的模态不一致性
多模态联邦学习 (MMFL) 利用每个客户端的多个模态构建比单模态对应物更强大的联邦学习 (FL) 模型。然而，不同客户端的模态不一致性对其影响一直被大大忽视。本文首次分析模态不一致性的影响，并揭示其与参与客户端的数据异质性的联系。我们特别
PDF5 months ago
使用自整正方法生成非固定纹理
本文提出了一种处理非稳定纹理合成的基于示例的方法，通过引入一种新的两步方法，用户首先使用标准图像编辑工具修改参考纹理，得到一个初步的目标合成图，随后采用自我校正的方法，利用预先训练的扩散网络和自注意力机制，渐进地将目标合成图与参考图进行对齐
PDF6 months ago
使用视觉转换器进行台风强度预测
利用卫星图像进行场景分析以准确预测台风强度，引入自注意力机制的 “Typhoon Intensity Transformer”（Tint）通过每层具有全局感受野的自注意力操作，提升了局部和全局上下文关系的提取能力，并在公开的台风基准测试中验
PDF7 months ago
变量时间序列变压器中的关联注意力
我们提出了一种新颖的相关注意力机制，能够高效地捕捉多元时间序列数据中不同特征之间的复杂相互关系，并能够与现有的基于 Transformer 的模型无缝集成，提高效率。在多种任务中，包括插补、异常检测和分类，相关注意力机制与先前的 Trans
PDF7 months ago
自然语言的元预测学习模型
基于自注意力机制的大型语言模型在语言处理和自然语言本身中取得了惊人的成绩，并且在不同性质的各种任务中也取得了成绩。本文在预测编码框架内提出了一个平均场学习模型，成功地验证了其在分类手写数字和玩具以及真实语言语料库中的有效性。因此，我们的模型
PDF10 months ago
pCTFusion: 基于点融合变换器的语义感知损失用于户外 LiDAR 点云分割
这篇研究提出了一种新的架构，pCTFusion，它结合了基于核的卷积和自注意机制，以便更好地进行特征学习，并捕捉分割中的局部和全局依赖关系。该架构在 SemanticKITTI 室外数据集上进行评估，与现有的先进架构相比，性能提高了 5-7
PDFa year ago
KDD知识注入的自注意力变换器
本论文旨在提出一种有系统的方法将外部知识图谱融入 Transformer 模型中，以解决在语言模型中存在的幻觉和对人类用户生成无用和不安全输出的问题，并在 GLUE 基准测试任务上进行大量实验证明其有效性。
PDFa year ago
通过多尺度类别表征响应相似性分析系统化构建尺度转换关注凝聚 DNN 的架构设计
本文提出了一种多尺度类表示响应相似性分析（ClassRepSim）的 DNN 分析方法，通过该方法提出了一种基于关注凝结器（STAC）的注意力机制模块，将其应用于 ResNet 风格的架构中，实现了在 ImageNet64x64 数据集上比
PDFa year ago
UniCal: 一种基于单支 Transformer 的相机 - 激光雷达标定与验证模型
我们介绍了一种新颖的架构 UniCal，用于相机和 LiDAR 之间的外部标定，通过基于 Transformer 的骨干网络利用自注意机制来推断传感器之间的 6 自由度相对变换。与以往的方法不同，UniCal 通过将相机图像通道和 LiDA
PDFa year ago
使用 Transformer 进行韵律语音分割（PSST）
本文细调了一个预训练的 STT 模型 Whisper，将低频令牌重新用于标注语调单元（IU）边界，精度达到 95.8％，优于以往的方法，无需大规模标记数据或企业级计算资源，并且通过应用一系列滤波器来减小输入信号，发现在 3.2 kHz 级别
PDFa year ago
EIT: 强化交互式变压器
本文提出了一种新的神经网络架构，即增强交互式 Transformer (EIT)，用于解决自注意机制中的头部衰减问题。我们将传统的多头自注意机制替换为增强的多头注意力机制 (EMHA)，并引入两种交互模型，Inner-Subspace 交互
PDF2 years ago
基于配对逆金字塔结构和密集 MLP 块的有效音频分类网络
研究使用卷积神经网络、自我注意机制、轻量级 Pyramid 结构（PIP）及 MLP 网络（PIPMN）进行音频分类，通过数据效率高等方式，分类准确度达 96%（ESC 数据集）和 93.2%（MGC 数据集）。
PDF2 years ago