提出了一种基于序列到序列的方法 TGASI，采用归纳学习思想以区分不同时间戳中不同预测源的重要性，并通过设计的时间注意机制来提高在不同场景下源定位的准确性和可扩展性。

Jun, 2023

本文讨论了使用位置编码技术来改进图神经网络在节点集合任务中预测的问题，并提出了一种被称为 PEG 的类 GNN 层，它使用单独的通道更新原始节点特征和位置特征。PEG 同时对原始节点特征施加排列等变性质，并对位置特征施加 O（p）等变性质，其中 p 是使用的位置特征的维度。在 8 个真实世界网络上的广泛链接预测实验表明，PEG 在泛化和可伸缩性方面具有优势。

Mar, 2022

本文提出 P-GNN 方法，通过采样锚节点集并计算给定目标节点相对于所有锚节点的距离，从而学习距离加权聚合方案以产生具有位置感知能力的节点嵌入。实验结果表明该方法能有效地提升节点在图结构中的位置特征提取能力，达到了较好的实验效果。

Jun, 2019

该研究通过理论探索首次分析了浅层图变换器在半监督节点分类中的应用。它使用了自注意力和位置编码，并描述了实现理想的泛化误差所需的样本复杂度和迭代次数的定量特征。此外，文中还展示了自注意力和位置编码如何通过稀疏化注意力图和在训练过程中促进核心邻域，从而增强了图变换器的特征表示能力。实验证明了我们的理论结果。

Jun, 2024

提出 SUMSHINE（Scalable Unsupervised Multi-Source Heterogeneous Information Network Embedding），这是一个可扩展的无监督框架，用于对齐多个异构信息网络源之间的嵌入分布，并在各种下游任务中验证其在真实世界数据集上的性能优于最先进的异构信息网络嵌入算法。

Jul, 2023

本文提出了一种新的 GNN 网络架构 LSPE，通过引入可学习的位置编码对节点的结构表达和位置表达进行解耦，应用在分子数据集上的实验结果表明 LSPE 能显著提高模型性能。

Oct, 2021

本研究提出了一种基于概率学习框架的可伸缩的不完整网络嵌入算法，该算法能够单独建模节点上下文和节点属性的关系，增强使用有用信息和抵御缺失信息对表示学习的负面影响，且可应用在包含数百万节点 / 边和高维节点特征的大规模网络中。

Oct, 2018

本文提出了一种使用多头自注意力模型，对不同方向上的实体嵌入进行特定组合以完成前向和后向子任务的方向感知多任务图卷积网络模型（DsMtGCN），该模型采用了几何约束来调整嵌入分布，修改了传统的二元交叉熵损失以反映三元组的不确定性，并在几个基准数据集上进行了竞争实验来验证我们模型的有效性。

Jun, 2023

该研究针对基于子图的预测，设计一种新的 Position-Aware Data-Efficient Learning 框架，提出了一种新的节点位置编码方法和基于扩散变分子图自编码器的生成式子图增强方法，同时提出了探索性和可利用性视图用于子图对比学习。通过三个真实数据集的实验结果表明，本文所提出的方法优于现有的基线方法。

Nov, 2022

本文提出将依赖树结构位置表示与传统的序列位置编码相结合，以更好地模拟输入句子的潜在结构，在中文到英文和英文到德语的翻译任务中，分别针对绝对和相对位置编码方式，实验证明提出的方法能够稳定提高自我注意力网络在各种自然语言处理任务上的表现。

Sep, 2019