May, 2023

PRODIGY: 在图上促进上下文学习

TL;DRPRODIGY是首个允许在图形上进行上下文学习的预训练框架,通过连接提示示例和查询,使用提示图表示上下文图形学习,并提出了相应的家族上下文预训练目标。该框架的实证证据表明,在涉及引用网络和知识图等任务中,在上下文学习性能方面比硬编码自适应对照预训练基线平均高出18%,并且在有限数据的标准微调方面平均高出33%。