本文介绍了一种用于构建基于正则化预测函数的凸损失函数的泛化方法 ——Fenchel-Young 损失，并深入研究了其性质，包括与稀疏性、广义熵和分离边界之间的新联系，从而揭示了许多著名损失函数的统一性并方便地创建新的损失函数。此外，本文还推导了有效的预测和训练算法，使得 Fenchel-Young 损失在理论和实践上都非常有吸引力。

Jan, 2019

本文研究了一种通用的凸损失函数构造方式：Fenchel-Young losses，分析了它们的特性，并表明这种构造方式统一了许多著名的损失函数，并能轻松创建有用的新函数；Fenchel-Young losses 来源于广义熵的特性，包括 Shannon 和 Tsallis 熵，能产生预测概率分布；我们提出了广义熵产生具有分离间隔和稀疏支持概率分布的损失的条件，并得出了有效的算法，使 Fenchel-Young losses 在理论和实践中都具有吸引力。

May, 2018

研究在线情况下的不确定性量化问题，提出新的自适应后悔最小化算法用于在线共形预测，证明了该方法实现了近似最优的自适应后悔和适当的预测覆盖，同时在时间序列预测和图像分类等实际任务上对现有方法具有明显的优势。

Feb, 2023

本文提出一种新颖的理论框架，利用凸代理损失函数最小化，探讨结构化预测的相关问题，并提供一些保证与监测措施，同时说明了某些任务损失导致学习难度增加，因此普适性最强的 0-1 损失函数并不适用于一般化的结构化预测。

Mar, 2017

在线学习不仅仅是记住一切。通过使用自适应在线学习中近期开发的技术重新审视折扣遗憾的经典概念，我们提出了一个能够优雅地在新数据到达时遗忘历史的关键算法，改进了传统的非自适应算法，即使用固定学习率的梯度下降算法。具体而言，我们的理论保证不需要任何除了凸性之外的结构假设，该算法在次优超参数调整时可以证明是鲁棒的。通过在线符合预测，我们进一步展示了这些好处，它是一个具有集合成员决策的下游在线学习任务。

Feb, 2024

本文提出了一种针对非可分离损失函数的在线学习框架，通过引入新型算法设计和分析，该模型具有高效的在线学习算法，具有亚线性遗憾和在线转换界限；进一步开发了可扩展的随机梯度下降求解器，经过实验在真实数据集上证明，该方法比近期提出的切割面算法快得多。

Oct, 2014

在线学习方法在最小假设下产生顺序遗憾界限，并为统计学习提供期望风险界限；然而，最近的研究结果表明，在许多重要情况下，遗憾界限可能无法保证统计背景下紧致的高概率风险界限。本研究通过将通用在线学习算法应用于在线到批次转换，通过对定义遗憾的损失函数进行一般的二阶校正，获得了几个经典统计估计问题（如离散分布估计、线性回归、逻辑回归和条件密度估计）的几乎最优的高概率风险界限；我们的分析依赖于在线学习算法的不恰当性，因为它们不限制使用给定参考类别的预测器；我们的估计器的不恰当性使得在各种问题参数上显著改善了依赖；最后，我们讨论了我们的顺序算法与现有批处理算法之间的一些计算上的优势。

Aug, 2023

本文提出了一个理论框架来进行结构化预测，其将多标签，排序回归和图匹配等任务的损失统一了起来，并可以获得条件随机场和二次代理等现有代理方法上的新结果。

Feb, 2019

我们开发了一种用于在线线性回归的算法，即使在完全没有先验知识的情况下，也能实现最佳的静态和动态遗憾保证。

May, 2024

本文提出一种能够在线预测的算法，能够在概率和对抗性设置下与未知复杂度的情境树专家相竞争。通过将结构风险最小化的概率框架纳入现有的自适应算法中，我们不仅可以稳健地学习存在随机结构的同时获得正确的模型阶数，并取得了能够与拥有强侧面信息的最优算法竞争的遗憾边界，从而提供了对模型和随机性同时适应性的第一个具体保证。

May, 2018