position information | BriefGPT

关键词position information

搜索结果 - 13

学习面向位置的隐含神经网络用于真实世界人脸修复
提出了一种名为 IN²（Implicit Neural Inpainting Network）的方法，通过显式建模位置信息来处理现实世界场景中的任意形状人脸图像，包括降采样编码器、邻居混合注意力块和隐式神经金字塔解码器，实验证明该方法在现实
PDF5 months ago
ACL探究位置信息在视觉语言模型中的作用
研究了视觉语言模型中的位置信息对图像 - 文本匹配任务的影响，并提出了两种解决策略，即位置信息预训练和基于交叉模态匹配的对比学习。结果显示，即使位置信息存在，模型仍不能正确地分类具有详细位置语句的图像。
PDFa year ago
MMRDN：物体堆叠场景中多视角操纵关系检测的一致性表示
本文提出了一种基于多视图数据的新型多视图 MRD 网络（MMRDN），该网络通过 2D 和 3D 多视图数据进行训练，结合了 KMVN 和 Von-Mises-Fisher 分布来预测对象间的关系，实验结果表明，该模型能够在多视图 MRD
PDFa year ago
ACL英雄帮派神经模型用于实体识别
本文提出了一种新的 Hero-Gang 神经网络结构，包括 Hero 和 Gang 模块，以利用全局和本地信息促进命名实体识别。实验结果表明，我们提出的模型在多个基准数据集上具有很好的性能。
PDF2 years ago
利用细粒度上下文知识选择提升端到端上下文语音识别
本篇论文主要探讨利用细粒度上下文知识选择方式，以降低基于 “专有” 短语的上下文建模产生的不确定性问题，并引入位置信息来更好地区分短语或令牌，达到在语音识别上提高识别准确率的效果。
PDF2 years ago
Transformers 中的位置信息：概述
本文综述了如何将位置信息整合到 Transformer 模型中，以比较不同方法在重要模型维度上的优劣，以及指出在选择位置编码时应考虑的应用特性，并为未来的研究提供刺激。
PDF3 years ago
CNN 中位置信息的深入研究：位置、填充和预测
本论文研究了卷积神经网络（CNNs）中位置信息的编码方式和其对语义表征的影响，通过设计新颖的任务和语义目标测试终止边界对语义表征的影响，揭示零填充驱动 CNNs 在其内部表征中进行位置信息编码的新发现，并证明位置信息既可以帮助也可以阻碍性能
PDF3 years ago
EMNLP使用更好的相对位置嵌入改进 Transformer 模型
本文提出基于自我关注机制的绝对位置嵌入和相对位置嵌入方法，通过增加查询、键和相对位置嵌入之间的交互，进一步优化了位置信息的利用。其最有前途的一种方法是将绝对位置嵌入泛化，相比之前的位置嵌入方法，在 SQuAD1.1 上有更好的表现。本文还通
PDF4 years ago
ICLR卷积神经网络编码多少位置信息？
本文通过一系列实验发现卷积神经网络在学习卷积核的时候竟然能够隐式地编码图片中绝对位置的信息。
PDF4 years ago
面向会话问答的注意力历史选择
本研究提出一种新的解决方案，涉及三个方面（位置历史答案嵌入法、历史注意机制、多任务学习），用于通过卷积式问题应答来理解和回答当前问题，并通过多项实验评估证明该模型的有效性。
PDF5 years ago
ACL打开西门子：深入探讨 BERT 的语言知识
本文探讨了 BERT 对句法层次结构、位置信息以及自注意力向量的编码，并发现 BERT 在较低的层次上良好地编码了位置信息，在较高的层次上则更倾向于编码层次结构，这表明 BERT 的表示法确实模拟了语言的一些层次结构，并且对于处理反身代词的
PDF5 years ago
ACL自注意力网络学习单词顺序的能力评估
本文探讨了自注意力机制（SAN）在序列建模中缺乏位置信息的问题，并通过一项新的单词重新排序检测任务分别检测了 SAN 和循环神经网络（RNN）的单词位置学习情况，实验结果表明，虽然缺乏循环结构，但在机器翻译中，SAN 通过学习单词位置的方式
PDF5 years ago
自注意力声学模型
本篇论文探讨如何应用自注意力机制解决计算复杂度、模型稳定性和位置信息等问题，相比于 LSTM 模型，该模型不仅运算时间更快，而且更具可解释性。
PDF6 years ago