cross-attention mechanism | BriefGPT

关键词cross-attention mechanism

搜索结果 - 33

探索应用于紧急呼叫中心语料库的多模态情感识别的注意力机制
本文探讨了基于 CEMO 数据集的语音和文本预训练模型在情感识别上的融合策略，研究表明基于多模态融合的交叉关注机制实现了更好的表现。同时，实验也表明在 CEMO 上，音频编码包含的情感信息比文本更为丰富。
PDFa year ago
三维车道检测中用于 BEV 和车道表示同时学习的高效 Transformer
本文提出一种基于分解交叉注意机制的 3D 车道检测模型，通过学习车道特征和鸟瞰视图特征之间的交叉关系，实现了更准确的视图转换和车道检测。
PDFa year ago
人脸成分关系下的亲属关系表示学习
本文提出了一种基于面部部件关系网络和交叉注意机制的亲属关系识别方法 FaCoRNet，能够更准确地识别亲属关系，取得了最大的公开数据集 FIW 上最优的成果。
PDFa year ago
ICLRLDMIC: 基于学习的分布式多视角图像编码
本研究基于分布式源编码理论，以独立编码和联合解码为基础，设计了一种学习型分布式多视角图像编码 (LDMIC) 框架，通过交叉信息传输机制有效捕获全局视角间的相关性，无需考虑几何关系，并表现出显著的优于传统的和基于学习的 MIC 方法，同时具
PDFa year ago
统一流场、立体和深度估计
本文提出了一种统一的模型形式和模型，可以用于光流、矫正立体匹配和从定位图像中估计无校准立体深度。该模型使用 Transformer 中的交叉注意力机制实现判别特征表示，并在允许跨任务转移的同时，在多个数据集上实现或超过现有最新方法的性能。
PDF2 years ago
EMNLPEtriCA: 事件触发的上下文感知故事生成，跨注意力增强
本文介绍了一种名为 EtriCA 的新型神经生成模型，通过交叉注意机制将上下文特征和事件序列进行残差映射以提高故事生成的相关性和连贯性，实验证明 EtriCA 模型在利用上下文和事件特征方面比现有基线模型表现显著优越。
PDF2 years ago
一次就够：一种轻量级的交叉注意力用于快速语句对建模
本文提出了一种高效的 MixEncoder 范式，它包括一种轻量级的交叉关注机制，可以在快速计算的同时实现可比较的性能，大大加速了句子配对。
PDF2 years ago
TagRec++: 基于层级标签感知的注意力网络用于问题分类
该论文提出了一种名为 TagRec++ 的模型，将在线学习系统中的问题按照其上下文进行分类，引入了密集的检索问题，采用了交叉注意力机制，优于现有方法，并考虑到了新的标签变化。
PDF2 years ago
CVPRGateHUB：用于在线动作检测的门控历史单元与背景抑制
GateHUB 是一种在线动作检测方法，通过引入新的门控历史单元结构，包括一种位置引导的门控交叉注意机制，以及将未来信息融入到历史特征中，实现了长程时间建模、选择性编码信息和背景抑制等功能，相较于现有方法更为有效。
PDF2 years ago
CVPR通过学习细粒度本地风格进行少样本字体生成
本文提出了一种基于学习参考字形细粒度局部风格和内容与参考字形间的空间对应关系的方式生成新字体的方法，并采用交叉注意力机制将参考字形风格聚合成更细粒度的表示，实验证明这种方法在少量样本下生成的字体质量和风格一致性均优于现有的方法。
PDF2 years ago
基于耦合解混网络的交叉注意力非监督高光谱超分辨率
本研究提出了一种带有跨注意机制的耦合解混合网络 (CUCaNet)，用于通过更高空间分辨率的多光谱图像 (MSI) 增强高光谱图像 (HSI) 的空间分辨率，并在三个广泛使用的 HS-MS 数据集上进行了广泛的实验来证明其优越性。
PDF4 years ago
语义分割中的上下文感知域自适应
本文提出了一种基于交叉关注机制的无监督域自适应方法，用于在语义分割中将一个域中的知识转移到另一个域中，通过对自注意力机制的改进，能够更好地适应上下文依赖性和转移可操作的上下文信息，优于现有的方法。
PDF4 years ago
交叉注意力端到端语音识别技术在双方对话中的应用
本文提出一种利用端到端方法，基于对话流转信息学习两个不同说话者交互的语音识别模型。该模型采用讲话人特定的交叉注意机制来帮助识别长时间的对话，并在 Switchboard 对话语音库上进行了评估，表现出优异的性能。
PDF5 years ago