从序列和图内核中导出神经网络结构
本文介绍了一种多层图形核的家族,并建立了图卷积神经网络与核方法之间的新联系。利用核特征图形的序列表示图形数据,从而将卷积核网络推广到了图形结构数据,实现了高效的数据表示和训练。在多个图形分类基准测试中,该方法实现了竞争性的性能,同时提供了简单的模型解释。
Mar, 2020
提出了 GP-LSTM 模型,利用可闭合表达式内核,在保留高斯过程非参数概率优势的同时,完全包含了 LSTM 递归神经网络的归纳偏置,能够很好地用于处理序列数据,提升了自动驾驶等领域的预测准确性。
Oct, 2016
本文提出了一种任务无关的预训练方法,使得图神经网络(GNNs)可以学习最先进的图内核函数所引发的表示,并在监督学习阶段对任务进行微调,该技术对采用的 GNNs 体系结构和内核函数是不可知的,并且在预实验结果中表现出了启示性的提高表现
Nov, 2018
本文提出了一种结合高级时空图和序列学习成功的递归神经网络(RNN)的方法,通过将任意时空图转化为丰富的 RNN 混合物来提高模型性能,适用于模拟人类运动到对象交互等多种问题领域。
Nov, 2015
本文介绍了如何将图神经网络中的归纳偏置引入高斯过程中,以优化其在图结构数据上的预测表现,并得出了一些有趣的成员和提出了一种适用于大规模数据后验推断的协方差矩阵的近似方法,通过这些基于图的协方差矩阵,与相应的图神经网络相比,具有相似的分类和回归性能以及计算时间上的优势。
Feb, 2023
本文探讨了 RNN 与 Substring kernel 之间的联系,并将卷积核网络与序列间的间隙相关联,推出了一种新的用于蛋白质分类的递归神经网络,允许端到端的训练,实验结果表明与现有方法相比,我们的方法更加适用于生物序列。
Jun, 2019
应用机器学习于生物序列 ——DNA、RNA 和蛋白质 —— 具有巨大的潜力推进人类的健康、环境可持续性和基础生物学的理解。因此,本研究旨在探讨这一问题领域中的挑战并提供修改现有基于核的机器学习方法以确保其准确性和可靠性的简单有效的方式。
Apr, 2023
这篇综述文章介绍了在结构化数据学习中,图核函数及其相关发展十分引人瞩目和广泛应用。文章总结了近二十年来发展出的几十种图核函数,介绍了图核函数在社交网络及生物信息学等领域的成功应用,并提供了一些有关图核函数的应用和挑战的讨论。
Apr, 2019
本文提出了一种新的 GNN 框架,称为 “核图神经网络”,将图核函数集成到 GNN 的消息传递过程中,通过卷积滤波器使用可训练图作为图过滤器与子图相结合来更新节点嵌入,并显示 MPNN 可以视为 KerGNN 的特殊情况,该方法在多个图相关任务中表现出具有竞争力的性能,并提高了模型可解释性与传统 GNN 模型相比。
Jan, 2022