结构化预测的紧密误差界
本文探讨了结构化预测中的部分推断问题，采用生成模型方法，考虑在图形标签空间中最大化一种包括一元和成对潜势的评分函数，采用两阶段凸优化算法进行标签恢复，并提供了可证明保证部分恢复的统计和拓扑要求。
Jun, 2023
在自然语言处理中，最新的工作提出了使用独立采样的随机结构输出的最大损失，该方法在随机结构输出的数量上是线性的，容易并行化。使用这种损失函数最大化损失是参数化的学习规则的合理方式，我们在 PAC-Bayes 框架下的高斯扰动中研究了这种损失函数的家族，并表明它产生比常用方法更紧的上限，因此这是一种更一般的技术。
Aug, 2015
在结构化预测中，我们提出了一种新的 PAC-Bayesian 风险界来处理非分离因素和违反 i.i.d. 假设的情况，并按照生成模型的研究，将数据生成为基于 Knothe-Rosenblatt 排序的因子参考测量，以显式提取随机输出变量之间的结构，从而为有挑战性的结构化预测下游任务建立归纳界限提供了初步步骤。
Jun, 2023
在线学习环境下的结构化预测问题的理论和算法性框架的研究。通过研究，我们发现我们的算法能够推广到监督学习环境中的优化算法，并且在数据非独立同分布的情况下也能达到相同的风险上界。此外，我们还考虑了一种特别设计用于非平稳数据分布（包括对抗性数据）的第二个算法，并以数据分布的变化为函数界限其随机遗憾。
Jun, 2024
该研究展示了在预测任务中，图神经网络（GNNs）利用关系信息作为归纳偏差以提高模型的准确性。通过学习图结构的方法来解决下游预测任务中未知的相关关系，同时证明了点预测损失函数（如平均绝对误差）的最小化并不能保证对潜在关系信息及其相关不确定性进行适当的学习。相反，合适的损失函数在随机模型输出上同时确保了（i）未知邻接矩阵潜在分布和（ii）在预测任务上的最佳性能。最后，我们提出了一种基于采样的方法来解决这一联合学习任务。实证结果验证了我们的理论观点，并证明了所提方法的有效性。
May, 2024
通过在组合项集上应用子模函数和高阶潜力，探索用于在结构化输出空间中找到多元解法子集的贪心算法，将贪心增广步骤降低到带有适当构造的高阶潜力的因子图推理中，以实现高效近似最大化。
Nov, 2014
本文提出了一个有潜在变量的结构化预测的统一框架，包括隐藏的条件随机场和潜在的结构支持向量机。通过对偶性描述了这种普遍公式的局部熵逼近，在图像分割和从单个图像中理解三维室内场景的任务中表现出不错的效果，比潜在结构支持向量机和隐藏条件随机场方法要好。
Jun, 2012
该论文介绍了一种基于近似搜索的学习框架，可以在较小的计算成本下优于精确模型，将结构化输出问题从精确模型转化为近似搜索的问题，并给出了两个收敛定理和界限的参数更新方法。
Jul, 2009
本文提出一种新颖的理论框架，利用凸代理损失函数最小化，探讨结构化预测的相关问题，并提供一些保证与监测措施，同时说明了某些任务损失导致学习难度增加，因此普适性最强的 0-1 损失函数并不适用于一般化的结构化预测。
Mar, 2017
本文研究机器学习中的结构化输出预测问题，通过提出基于算法稳定性的新型高概率界限和期望的泛化界限，改进了该领域的研究。同时，本文扩展了该领域的研究对象到弱相关数据。
May, 2021