long-range relationships | BriefGPT

关键词long-range relationships

搜索结果 - 5

利用全局注意力表示图神经网络的长距离上下文
本篇论文提出了一种名为 GraphTrans 的算法，它将 Transformer 自注意力模块和标准的 GNN 模块相结合，并应用置换不变性的 Transformer 模块，从而解决了当前方法在表示长程依赖关系方面的不足。该算法在多个图分
PDF2 years ago
ICCVTransPose: 基于 Transformer 的关键点定位
本文介绍了一种名为 TransPose 的模型，它是用 Transformer 来进行人体姿态估计的，能够有效地捕捉长距离的关系以及细粒度的图像依赖关系，并通过产生热力图来进行关键点的定位。基于此，模型可以实现更快速的处理速度和更轻量化的模
PDF4 years ago
ICCV人物再识别的二阶非局部注意力网络
该论文提出了一种基于注意力机制与二阶特征统计量的新型算法，可以直接建模长距离的特征图关系，同时将该算法与广义的 DropBlock 模块相结合，能够在主流的行人再识别数据集中表现优异。
PDF5 years ago
用卷积上下文来进行 ASR 的变压器
本文提出了用卷积学习输入表示替换变形器的正弦位置嵌入，并阐述其在提供长程关系方面的优势和优化特点，最终实现了在无额外语言模型文本下，librispeech 测试中 4.7％和 12.9％的字错率。
PDF5 years ago
AAAICycle-SUM：基于循环一致对抗 LSTM 网络的无监督视频摘要
本文提出了一种新颖的无监督视频摘要模型 ——Cycle-SUM，采用了一种新的循环一致的对抗 LSTM 架构，能够有效地实现摘要视频的信息保存和紧凑性，其中包括一个帧选择器和一个基于循环一致性学习的可学习信息保存度量。
PDF5 years ago