hierarchical attention mechanism | BriefGPT

关键词hierarchical attention mechanism

搜索结果 - 9

分层 Transformer 中的细粒度注意力用于表格时间序列
Tabular data is commonly used for recording historical events, and this research proposes a fine-grained hierarchical mo
PDF11 days ago
多模态推荐的内容和结构的微妙特征中的 ID 嵌入
本文研究了多模态推荐中 ID 嵌入的价值和语义特征，并提出了一种新的推荐模型，通过引入 ID 嵌入来增强内容和结构的语义特征。通过层次化注意机制和对比学习，提高了内容表示，并利用轻量级图卷积网络和 ID 嵌入改进了结构表示，最后将内容和结构
PDF8 months ago
HiT: 基于分层 Transformers 的建筑物映射
深度学习方法在遥感影像中自动建筑物映射方面得到广泛研究。本文提出了一种简单且新颖的基于 Hierarchical Transformers 的建筑物映射方法 HiT，通过增加一个多边形头并行于分类和边界框回归头的两阶段检测结构实现了从高分辨
PDF9 months ago
基于注意力的学术资源文本级多标签分类
本文提出了一种基于注意力机制的层次化多标签学术文本分类算法，该算法结合了文本、关键词和层次结构等特征，利用 word2vec 和 BiLSTM 来获取文本、关键词和层次结构的嵌入式和潜在向量表示，并使用分层注意机制来捕捉关键词、标签层次结构
PDF2 years ago
HAConvGNN: 基于分层注意力的卷积图神经网络，用于 Jupyter Notebook 中的代码文档生成
本文提出了一种新的任务 —— 计算笔记本代码文档生成（CDG），并提出了一种新模型（HAConvGNN），通过分层注意机制考虑相关代码单元和相关代码标记信息来生成文档，实验结果表明，与其他基线模型相比，我们的模型表现更优。
PDF3 years ago
基于层叠分层注意力的深度强化学习在基于文本的游戏中的应用
本文研究了强化学习在基于文本的游戏中的应用，提出了利用知识图谱进行明确推理的方法，并通过分层注意机制构建了推理过程的显式表示，实验结果表明该方法优于现有的基于文本的代理人。
PDF4 years ago
一种半监督图注意力网络用于金融欺诈检测
本文介绍了一种利用多视图网络结构、半监督学习和分层注意力机制的图神经网络，用于在支付宝用户中进行欺诈检测，并实现比现有方法更为准确的预测，并且提供了可解释的结果。
PDF4 years ago
关系协同过滤：建模多个物品关系进行推荐
该研究提出一种名为 “关系型协同过滤” 的推荐系统通用框架，通过利用多个项目间的关系 (meta-data, functionality 等) 并发展出一种两层次的层级注意机制来对用户偏好进行建模。对推荐任务进行联合训练，以保持项目之间的关
PDF5 years ago
EMNLP多源句法神经机器翻译
提出了一种新颖的多源技术，利用线性化的解析将源语法合并到神经机器翻译中，通过使用单独的编码器将相同源语句的顺序和解析版本相结合，然后使用分层注意机制将结果表示组合，该模型在 WMT17 英德任务上比 seq2seq 和基线解析模型都有超过
PDF6 years ago