attention-based model | BriefGPT

关键词attention-based model

搜索结果 - 28

少即是多：基于跳数的图注意力用于电路的可扩展和通用学习
HOGA 是一种基于注意力机制的模型，能够在大规模、复杂电路问题中可扩展且具有泛化性，通过预先计算节点的逐跳特征并使用门控自注意力模块生成节点表示，自适应地学习不同跳之间的重要特征，因而适应不同电路结构，可在分布式环境下高效训练。在实验证明
PDF4 months ago
AAAI诱导点算子变换器：一种用于求解 PDE 的灵活可扩展的体系结构
通过学习解算子，解决偏微分方程已成为传统数值方法的有吸引力的替代方法，我们介绍了一种基于注意力机制的模型 —— 感应点操作器变换器（IPOT），它能处理任意输入函数与输出查询，并以计算高效的方式捕捉全局交互，实验结果表明，与先进方法相比，在
PDF7 months ago
DeepEMD：一种基于 Transformer 的快速估计 Earth Mover's Distance
提出了一种基于注意力模型的训练损失的准确估算方法，用于生成模型并使用 Earth Mover's Distance 作为损失函数，并提供了使用该模型进行海量点云推断的显著性能提升。
PDF8 months ago
基于注意力机制的深度神经网络用于可解释的太阳耀斑预测
使用基于注意力机制的深度学习模型，通过分析全盘磁图像来预测太阳耀斑的发生，实验结果表明该模型能够成功预测接近边缘的太阳耀斑，并且基于相关活跃区的特征。
PDF10 months ago
拷贝数变异指导基于 fMRI 的自闭症谱系障碍预测
针对孤独症谱系障碍（ASD）的多因素发病学认识，本研究提出了一种融合遗传、人口统计和神经影像数据的整合模型，采用基因数据引导对模型预测重要性的神经影像特征进行修饰的注意力机制，进一步提高 ASD 分类和严重程度预测的性能。
PDFa year ago
基于注意力机制的时空图神经 ODE 用于交通预测
本文提出一种基于 GNN 和 ODE 的交通预测模型（ASTGODE），在真实数据上表现良好，具有可解释性，并实现了最高的预测准确度。
PDFa year ago
注意力感知的动漫线描上色
本文介绍了一种基于注意力机制的模型，其中使用通道和空间上的卷积注意力模块来提高编码器对特征提取和关键区域感知的能力，并使用带有交叉注意力和自注意力的 Stop-Gradient 注意力模块来解决跨域长距离依赖问题，实验结果表明该方法在动画线
PDF2 years ago
CVPR交叉视图 Transformer 用于实时地图视角语义分割
本文提出了一种名为 Cross-View Transformers 的注意力机制模型，能够在不需要显式几何建模的情况下，从多个相机的视角中学习到语义分割的图像表示，并进行了实时性能验证。
PDF2 years ago
3D 医学点变换：为医学点云分析引入卷积到注意力网络
本篇文章提出了一种特定于医用点云的基于注意力机制的 3D 医用点云 Transformer (3DMedPT) 模型，通过增加上下文信息和在查询时总结局部响应，可以捕捉局部和全局特征交互，同时应用位置嵌入学习准确的局部几何形状和多图推理 (
PDF3 years ago
基于视觉 transformer 的多头自注意力机制用于零样本学习
本文提出了一种关注机制的模型以学习适用于未见过的类别识别的属性，在三个常用的零样本学习基准测试上达到了新的最先进效果。
PDF3 years ago
通过非自回归模型和 BERT 的跨模态知识转移实现快速端到端语音识别
提出了一种非自回归语音识别模型 ——LASO，利用注意力机制，位置关联总结器，自注意机制等，把语音识别转化为逐位置分类的问题，并提供了跨模态迁移学习方法来提高性能。
PDF3 years ago
EMNLPZEST: 从文本描述中使用文本相似度和视觉摘要实现零样本学习
本研究关注零样本学习的视觉问题，并提出了使用基于文本描述的分类器，该分类器关注从图像描述中提取最相关的信息并将视觉特征与文本进行匹配，通过基于关注机制的简单模型，利用物种之间的相似度和文本的可视摘要来提高零样本视觉对象识别的效果。
PDF4 years ago
AAAI建模潜在实体类型信息以提升实体链接
提出一种基于 BERT 预训练和实体相似度分数的实体链接模型，通过注入潜在的类型信息到实体嵌入中，并结合一种基于 BERT 的实体相似度分数，显著提高了实体链接模型的性能。
PDF4 years ago
EMNLP从 Token 到 Review：一种分层多模态的情感挖掘方法
本文提出了一种利用意见表达的不同视角，构建了一种联合细粒度和粗粒度意见模型的方法，该模型具有注意力机制的某些特性，对最近发布的多模态细粒度注释语料库提供了具有竞争力的结果。
PDF5 years ago
KDD面向推荐系统的实时基于关注力的相似模型
本文提出了一种名为 “RALM” 的实时注意力基础的 “look-alike” 推荐算法，采用了神经网络结构和种子聚类机制来优化用户表示学习和 “look-alike” 学习建模，从而扩展观众范围，提高推荐的多样性和质量。
PDF5 years ago
ACL将 AMR 句法分析作为序列到图的转换
我们提出了一种基于关注机制的模型，将 AMR 解析视为序列到图的转换，与大多数依赖于预训练对齐程序、外部语义资源或数据增强的 AMR 解析器不同，我们的提议的解析器是免费的，它可以有效地训练用于有限数量的标记 AMR 数据。我们的实验结果优
PDF5 years ago
评估序列到序列模型在手写文本识别中的应用
该研究提出了一种基于注意力机制的序列到序列模型用于手写体识别，其中结合了卷积神经网络进行视觉信息的提取，实验结果表明其相比于最近的序列到序列方法取得了显著提升。
PDF5 years ago
ACL基于语义的神经机器翻译：使用 AMR
研究表明，通过在神经机器翻译中使用抽象意义表示（AMR）作为额外知识，可以显著改善一种强的基于注意力的序列到序列神经翻译模型在标准英德数据集上的翻译表现。
PDF5 years ago
基于注意力层次解码器的自动生成图形程序
该论文提出了一种基于注意力机制的分层代码生成模型，可更细致地描述图形用户界面 (GUI) 中的图片，并生成与 GUI 中图形元素的分层布局一致的代码，通过实验证明该模型优于当下其他最先进的方法。
PDF6 years ago
语义角色标注的序列到序列模型
本文探讨了一种将语义角色标注作为序列到序列过程的新方法，使用加强的基于注意力机制和复制机制的模型，对英文数据进行 PropBank SRL，证明该模型可以解决英语数据上的 SRL 标注任务，但需要添加更多的结构解码约束来使该模型真正具有竞争
PDF6 years ago