图结构预测能量网络
设计了一种复合目标函数,共同训练成本增强和测试时推理网络以及能量函数,为结构化预测稳定和提高了这种联合训练能力,并在两个序列标注任务上进行了实证验证,显示优于以前的工作方案,以及在全局能量项上取得进一步改进。
Nov, 2019
本文提出了一种基于神经网络的结构化预测能量网络方法,使用经过训练的神经网络来进行结构化 argmax 推理,同时开发了大边界训练准则以实现对能量函数和推理网络的联合训练。在多标签分类和序列标注等任务中,该方法能够在保持或提高准确性的同时大幅提升推理速度。
Mar, 2018
本论文提出了一种灵活的结构化预测框架 — 结构化预测能量网络(SPEN),通过使用一个深层架构来定义候选标签的能量函数,使用反向传播来迭代地优化标签的能量,从而进行预测。该框架能够捕捉标签之间的依赖关系,以及自动学习结构化输出的有区别特征,可以应用于多标签分类等问题,展现出卓越的性能,提供了有关前向和迭代结构化预测之间的基本权衡。
Nov, 2015
文章介绍了一种使用截断随机搜索来训练结构化预测能量网络(SPENs)的方法,以达到在无标记训练数据的情况下有效监督和提高性能的目的。通过使用简单易得的人类知识或不可微分的流水线来组装标量奖励函数,并使用快速的截断随机搜索来有效地搜索输出空间产生局部优化,以避免使用标记训练数据。SPENs 提供了高效的测试时间推理,并在结构化预测中产生先进的结果。
Dec, 2018
本文针对图结构数据的分类问题,提出了一种基于能量的图神经网络模型,并成功实现了该模型,通过实验发现它在鲁棒性方面比标准的图卷积网络有明显提升,为未来基于能量的图神经网络研究开辟了新的方向。
Apr, 2021
本文提出了一种新的方法:结构化代理网络(SPN),它结合了条件随机场(CRFs)和图神经网络(GNNs)的优点,通过解决一个近似的优化问题来有效学习模型,用于无标签测试图上的节点标签推断,实验结果表明 SPN 优于许多竞争对手。
Apr, 2022
本论文提出了几个高阶能量项来捕捉序列标记中标签之间的复杂依赖关系,并使用卷积、循环和自我注意网络的神经参数化来处理该方法。我们在学习基于能量的推理网络框架中使用此方法,在四个序列标记任务上实现了高性能,同时具有与简单的本地分类器相同的解码速度,并发现高阶能量在嘈杂的数据条件下的效果更好。
Oct, 2020
介绍了一种名为图结构和积网络的概率方法,可用于机器人领域的结构预测问题,演示了该方法如何通过处理机器人在大规模办公空间中的嘈杂拓扑关系来提高关于语义概念描述的推断,并显示 GraphSPNs 始终优于传统基于无向图模型的方法。
Sep, 2017
本文提出了一个有潜在变量的结构化预测的统一框架,包括隐藏的条件随机场和潜在的结构支持向量机。通过对偶性描述了这种普遍公式的局部熵逼近,在图像分割和从单个图像中理解三维室内场景的任务中表现出不错的效果,比潜在结构支持向量机和隐藏条件随机场方法要好。
Jun, 2012