动态图中的双线性交互学习时间注意力
本文提出了一种基于时间图的归纳表示学习方法,使用新颖的时间编码技术和自注意力机制,可以对动态网络中的节点分类和链接预测任务进行有效处理,并相对于现有的时空图嵌入方法取得了优秀的效果。
Feb, 2020
统计学和机器学习中,检测数据集中的依赖关系是一个核心挑战。我们提出了一种新颖的神经网络模型,用于监督式图结构学习,即学习观测数据与其底层依赖结构之间的映射关系。通过利用结构方程模型和使用随机生成的多元切比雪夫多项式来模拟训练数据,我们的方法在线性和各种类型的非线性依赖关系上都表现出稳健的可推广性。我们引入了一种新颖的双线性注意机制(BAM),用于显式处理依赖信息,其操作是基于转换数据的协方差矩阵水平,并尊重对称正定矩阵流形的几何性质。实证评估显示了我们的方法在检测广泛范围的依赖关系中的稳健性,在无向图估计方面表现出优势,并通过一种新颖的两步方法在完成部分有向无环图估计中取得竞争优势。
Feb, 2024
我们提出了一种基于深度双向注意力的新型时间信息提取模型,直接执行关系提取任务,利用多层感知机进行弧预测和关系标签预测,充分利用时间关系的双向特性,实现了最新技术水平的时间关系提取性能。
Jan, 2022
本文提出了一种适用于动态网络的统计模型 Neural Latent Space Model with Variational Inference,该模型能够表示并预测网络结构的演化,并在同质、双部分和异质网络的真实数据集上表现出优异的性能。
Nov, 2019
提出了一种新颖的变分自编码器来捕捉时间动态的混合,通过使用学习到的依赖图来预测未来事件时间和事件类型,在预测真实世界事件序列中表现出更高的准确性,相较于现有先进的神经点过程。
Dec, 2023
提出了一种名为 TimeGraphs 的新方法,将动态交互以分层的时间图形式建模,通过自监督方法构建多层次事件层次结构,有效地进行非均匀分布的动态推理。在多个数据集上评估 TimeGraphs 的性能,包括足球模拟器、Resistance 游戏和 MOMA 人体活动数据集,结果表明 TimeGraphs 在各种时间推理任务上都具有鲁棒性和效率,相比当前方法,在事件预测和识别任务上性能提升高达 12.2%。实验进一步证明了 TimeGraphs 的零样本泛化能力、对稀疏数据鲁棒性以及适应流数据的能力。
Jan, 2024
本文提出了一种能够处理动态图并学习到同时捕捉结构特征和时间演化模式的节点表示的神经网络结构,称为 Dynamic Self-Attention Network (DySAT)。实验结果表明,DySAT 在通信网络和二分等级网络上的表现比多种最新图嵌入算法都有明显提高。
Dec, 2018
本文中,我们提出了一种基于时间序列二次双线性变换的新型 Temporal Bilinear 模型以捕获邻近帧之间的时间序列特征交互,通过在线性复杂度下利用分解的双线性模型和瓶颈网络设计来构建我们的 TB 块,在包含 TB 块和 2D 空间卷积的两种方案中进行了实验比较,在多个广泛采用的数据集上进行了实验证明了我们方法的有效性。
Nov, 2018