在结构化预测中，我们提出了一种新的 PAC-Bayesian 风险界来处理非分离因素和违反 i.i.d. 假设的情况，并按照生成模型的研究，将数据生成为基于 Knothe-Rosenblatt 排序的因子参考测量，以显式提取随机输出变量之间的结构，从而为有挑战性的结构化预测下游任务建立归纳界限提供了初步步骤。
Jun, 2023
设计了一个语义概率层，可以将其插入到任何神经网络中，保证其预测与一组预先定义的符号约束一致，以此来预测结构化输出，它能够模拟复杂的相关性和硬约束，实现最大似然的端到端学习，对于其他神经符号方法无法处理的结构化输出任务，SPL 的效果要好得多，并且能够满足完美的约束条件。
Jun, 2022
本文提出使用具有两个创新的二进制 SDP 松弛，同时聚焦于计算效率的 SOS 层次结构进行 MAP 推理，该算法在实际问题如图像去噪和 Ising 自旋玻璃方面表现优于 BP 和 GBP。
Sep, 2017
提出了一种新的框架 —— Smart Predict, then Optimize (SPO)，该框架直接利用优化问题的结构，即目标和约束，来设计更好的预测模型。实验表明，使用 SPO 框架可以显著提高预测 - 优化范例下的性能。
Oct, 2017
我们提出并分析了一种规则化方法，用于结构化预测问题。我们表征了一大类损失函数，允许在线性空间中自然地嵌入结构化输出。我们利用这一事实设计了学习算法，使用代理损失方法和规则化技术。我们证明了所提出的方法的普遍一致性和有限样本边界，表征了所提出方法的泛化性能。我们提供了实验结果，证明了所提出方法的实用性。
May, 2016
该论文介绍了一种基于近似搜索的学习框架，可以在较小的计算成本下优于精确模型，将结构化输出问题从精确模型转化为近似搜索的问题，并给出了两个收敛定理和界限的参数更新方法。
Jul, 2009
本文提出了一种基于算法的方法，通过使用 loss 函数直接计算误差和梯度更新输出权重，而无需计算大维度向量，以实现高效地训练深度神经网络模型。
Jun, 2016
本文研究了随机鞍点问题的经验鞍点解的泛化界，证明了在具有 Lipschitz 连续和强凸强凹的目标函数的情况下，可以使用统一稳定性论证来建立一个 O（1/n）的泛化界，并在没有强凸性和没有有界域的情况下提供了泛化界。在马尔可夫决策过程中的批量策略学习和用于随机博弈的混合策略纳什均衡估计的两个示例中，我们展示了正则化 ESP 解具有接近最优样本复杂度。
Jun, 2020
在线学习环境下的结构化预测问题的理论和算法性框架的研究。通过研究，我们发现我们的算法能够推广到监督学习环境中的优化算法，并且在数据非独立同分布的情况下也能达到相同的风险上界。此外，我们还考虑了一种特别设计用于非平稳数据分布（包括对抗性数据）的第二个算法，并以数据分布的变化为函数界限其随机遗憾。
Jun, 2024
我们研究了 OOD 通用化情境下的置信集预测问题，并提出了一种在 OOD 情境中形成可靠预测集的方法，并在模拟数据上进行了实验证实了我们理论的正确性和方法的有效性。
Mar, 2024