Seq-HyGAN: 基于超图注意力网络的序列分类

Mar, 2023

Seq-HyGAN: 基于超图注意力网络的序列分类

Seq-HyGAN: Sequence Classification via Hypergraph Attention Network

Khaled Mohammed Saifuddin, Corey May, Farhan Tanvir, Muhammad Ifte Khairul Islam, Esra Akbas

TL;DR提出了一种名为 Seq-HyGAN 的超图注意力网络模型用于解决序列分类的挑战，并使用两级注意机制生成序列表示为超边，同时学习每个序列的关键子序列。实验结果表明，Seq-HyGAN 模型可以有效地分类序列数据并显着优于基线。

Abstract

sequence classification has a wide range of real-world applications in different domains, such as genome classification in health and anomaly detection in business. However, the lack of explicit features in sequence data makes it difficult for machine learning models. While Neural Netw

sequence classification neural network (nn)hypergraph attention network attention-based hypergraph neural network subsequences

发现论文，激发创造

基于注意力神经网络的图到序列学习

本论文提出了一种新颖的通用端对端图到序列神经编解码模型，该模型使用改进的基于图神经网络的聚合策略产生节点和图嵌入，引入了注意机制，实现了更好地处理大型图，并在多项任务中取得了最先进的性能，显著优于现有的图神经网络、Seq2Seq 和 Tree2Seq 模型。

Apr, 2018

Hyper-SAGNN: 一种基于自注意力的超图神经网络

本文介绍了一种新的基于自注意力机制的图神经网络 Hyper-SAGNN，可用于不同类型的超图及其不同的学习任务，包括各种基准网络数据集以及基因组学中的单细胞 Hi-C 数据集。该模型在传统任务上优于现有模型，在新任务 “outsider identification” 上表现优异。

Nov, 2019

Seq-HGNN：学习异构图上的序列节点表示

Seq-HGNN 是一种新颖的异构图神经网络，使用序列节点表示学习机制来表示每个节点的元路径表示序列，并使用异构表示融合模块来聚合这些表示。实验证明，Seq-HGNN 在信息检索方面的性能超过了现有的同类模型。

May, 2023

超图卷积和超图注意力

该研究引入了两个可端到端训练的操作符，在超图卷积和超图注意机制方面，以在高阶关系的图结构数据上有效地学习深度嵌入，并在半监督节点分类方面展示了其有效性。

Jan, 2019

门控图序列神经网络

本论文研究图结构数据的学习技术，以 Graph Neural Networks 为起点，使用门控循环单元和现代优化技术，并将其扩展为输出序列，展示出其在一些简单的 AI 和图算法学习任务中的能力，并在程序验证的问题中实现了最新水平的性能。

Nov, 2015

使用分层学习生成长源序列

本研究设计并研究了一种新的分层注意力 Transformer 架构（HAT），在几个序列到序列任务中优于标准 Transformer，包括在 PubMed、arXiv、CNN/DM、SAMSum 和 AMI 上的四个摘要任务中取得了最新的 ROUGE 分数。该架构在 WMT20 英文到德文翻译任务中优于文档级机器翻译基线，并通过可视化分层编解码器注意力来研究了分层层次的理解，最后研究了编码器预训练上的分层学习并分析了其在分类任务上的性能。

Apr, 2021

Node2Seq: 用于图神经网络中可训练卷积的方法

本文提出了一种名为 Node2Seq 的新型图网络层，通过注意力机制和一维卷积神经网络实现了对不同相邻节点信息聚合的显示可训练权重，并提出了通过注意力分数以自适应方式融合非局部信息进行特征学习的方法，实验证明该方法提高了特征学习的性能。

Jan, 2021

序列学习的上下文非局部神经网络

本文提出了 contextualized non-local neural networks (CN3) 模型，它综合了 self-attention 和 graph neural networks 两种方法的优点，能在一定范围内构建特定任务的句子结构，从而在文本分类、语义匹配和序列标注等 10 个 NLP 任务中表现优异。

Nov, 2018

简单高效的异构图神经网络

本论文通过对异构图神经网络（HGNN）中注意力机制、多层结构进行深入研究，提出了 Simple and Efficient Heterogeneous Graph Neural Network（SeHGNN），该方法采用轻量级平均聚合器预先计算邻居聚合以捕获结构信息，采用长元路径和 Transformer 语义融合模块来更好地利用语义信息，结果表明 SeHGNN 具有简单的网络结构、高预测准确性和快速的训练速度。

Jul, 2022

门控图神经网络实现的图到序列学习

提出了一种新的神经网络模型结合 Gated Graph Neural Networks 和输入转换解决了线性化启发式和参数爆炸问题，可以对 AMR 图和基于语法的神经机器翻译进行生成，实验结果表明该模型优于强基线模型。

Jun, 2018