本文提出一种基于 (heuristics) 启发式规则构造损失函数 (loss functions) 的弱监督学习 (weak supervision) 方法，命名为 'Losses over Labels (LoL)'，可以更多地利用启发式规则中专家知识和判断依据进行训练，有效提高文本和图像分类任务中的性能。

Dec, 2022

本文研究了二元分类和类概率估计中的损失，将对它们的理解从边缘损失扩展到了一般的组合损失，文中表征了何时边缘损失可以成为适当的组合损失，明确地展示了如何从部分损失的一半中完整地确定对称损失，并介绍了组合二元损失的内在参数化的概念，并给出了适当损失和 “分类校准” 损失之间关系的完整的特征。本文还探讨了 “最佳” 替代二元损失的问题，并介绍了精确的 “最佳” 的概念，以及存在两种凸代理损失不可比较的情况。最后，文中在附录中提供了一些新的算法无关的关于二元损失适当性、凸性和对于误分类噪声的鲁棒性之间关系的结果，并且证明了所有凸适当损失都对误分类噪声不鲁棒。

Dec, 2009

本文探讨了在存在测试时对抗情况下的分类器损失的最优下限和对应最优分类输出的确定，并使用自适应算法以高效地计算此下限，进而将其作为诊断工具来确定当前鲁棒性训练方法的有效性，并探讨使用最优分类输出作为软标签以经验地改善鲁棒性训练。

Apr, 2021

本文提出使用一种广泛的强适当损失类来实现针对二分排序问题的非两两代理规则界限，并通过最近的结果进一步获得了低噪声条件下的更紧密的代理规则界限。

Jul, 2012

本文提出了一种基于结构化预测和概念的下确界损失的统一框架，以处理一系列学习问题和损失函数中的部分标注，其中监督以包含实际标签的标签集的形式呈现，并且明确的算法可以轻松实现，并且证明了统计一致性和学习速率。实验证实所提出的方法优于常用的基准方法。

Mar, 2020

本文证明了大多数知名损失函数的经验风险因子可分为线性项，聚合所有标签和不涉及标签的项，并且可以进一步表示为损失的和。这适用于任何 RKHS 中的非光滑、非凸损失。通过估计平均操作符，本研究揭示了这种分解的变量的充分统计量，并将其应用于弱监督学习。最后，本文展示了大多数损失都享有一种依赖于数据的（通过平均算子）噪声鲁棒性。

Feb, 2016

采用最坏情况下的对数损失最小化方法将公平性标准纳入分布鲁棒性的第一原则，并基于此原则推导出一种新的分类器，该方法具有凸性和渐近收敛性，并在三个基准公平数据集上展示了其实践优势。

Mar, 2019

通过发现 logistic loss 是 1-mixable，我们设计了一个新的高效的 improper learning algorithm，解决了 COLT 2012 open problem variant 中的问题，并在预测器范数上具有双重指数提高的遗憾限制，这提供了一种解决在线学习领域中的问题的方法，我们还展示了这种改进对多类学习和在线提升等应用的影响。

Mar, 2018

本文旨在提供关于对称损失函数的更好理解。论文首先强调在平衡错误率（BER）最小化和受损标签下的接收者操作特性曲线（AUC）最大化中使用对称损失函数的优势。其次，我们证明对称损失函数的一般性质，包括分类校准条件、风险超出界限、条件风险最小化以及 AUC 一致性条件。第三，由于所有非负对称损失函数都是非凸的，我们提出了一个凸性障碍铰链损失函数，它从对称条件中受益很大，尽管它不是在所有地方都对称。最后，我们进行实验以验证对称条件的相关性。

Jan, 2019

通过计算确切地设为真输出的概率，我们提出了一种统一的弱标签计数弱监督学习方法，并在三种常见的弱监督学习范例上取得了最先进或高度竞争的结果。

Nov, 2023