通过更高维任务关联性提升图上的多任务学习
该研究旨在解决联合学习中任务相似度评估的问题,通过提出一组相似度评分并基于 Taskonomy 数据集对其进行基准测试,揭示出不同指标对多任务学习性能的指示作用并未得到很好的相关性
Jan, 2023
我们提出了一个基于预测器驱动的搜索方法,用于任务分组,旨在最小化多任务学习的训练次数,并展示了相较于现有基准方法,我们的方法在四个基准数据集上可以找到更好的任务分组。
Oct, 2023
提出了一种基于图神经网络模型的最新、高效的多任务预测方法,结果表明,多任务学习可以提高模型性能,特别是数据点较少的数据集可以不需要数据增强,便能获得较好的效果,并且能显著减小模型的方差。
Oct, 2019
本文提出了一种创新的关系多任务学习框架 MetaLink,通过建立连接数据点和任务的知识图谱,利用来自辅助任务的数据点标签预测新任务中的结果,可以在不同领域的 6 个基准数据集上成功地利用不同任务之间的关系,在提出的关系多任务学习设置下,可以优于现有方法,ROC AUC 性能提高了高达 27%。
Mar, 2023
本文提出了两种基于神经序列模型的多任务学习架构,采用 message-passing graph 神经网络的思想,构建了通信的图多任务学习框架,并在文本分类和序列标注任务上进行了大量实验,证明了其在多任务学习和迁移学习上的有效性和可解释性。
Nov, 2018
既训练的图神经网络(Pretrained Graph Neural Networks)广泛应用于各种分子属性预测任务,但由于传统的精调对目标任务的训练会导致较差的泛化性能,因此本文探讨了通过与多个辅助任务共同训练的方式来适应目标任务的预训练图神经网络。实验证明了我们提出的方法的有效性,在最先进的预训练图神经网络上的改进效果达到了 7.7%,这表明在分子属性预测中,将辅助任务与目标任务的精调结合起来可以有效提高预训练图神经网络的泛化能力。
Jan, 2024
提出了一种基于最大二分图匹配算法和费舍尔信息矩阵的不对称亲和力分数来解决 few-shot 学习问题,并且在各种 few-shot 基准数据集上通过提高分类精度来证明了该方法的有效性。
Oct, 2021
本文通过探索现实世界中图异常检测(GAD)数据集中的一类同态性质,引入了一种新颖的无监督异常评分度量 —— 本地节点亲和力,它将更少地与邻居关联的节点分配更大的异常评分,并提出了针对我们异常度量的定制节点表示方法 TAM,通过最大化节点对其邻居的本地亲和力进行优化。
May, 2023
本文使用图的拓扑结构,提出了一种基于 3、4、5 阶 motif-based features 的监督分类算法来预测链接,实验结果显示在构建完好的分类数据集上使用现成的分类器,相较于之前基于拓扑结构和特征学习方法,准确率提高了 10 个百分点。
Feb, 2019
本文对双重可交换性概念进行了拓展,并提出了一种适用于多任务的归纳链接预测方法,在没有额外信息的情况下有效地推广到测试中的全新关系类型,相比现有方法取得了显著的性能改进。
Jul, 2023