本文提出了一种名为 tilted empirical risk minimization (TERM) 的新框架，通过引入一个称之为 tilt 的超参数，它能够灵活调整每个个体损失的影响，以实现对离群点的鲁棒性或公平性，同时具有减少方差，促进泛化和处理类别不平衡的能力。我们通过发展批和随机一阶优化方法来解决 TERM 问题，并证明它相对于常见的替代方案，能够高效地解决这个问题。除了在现有解决方案这些问题，提出方案竞争力之外，我们还将 TERM 用于多种应用，如在亚组之间实施公平性，减轻离群值的影响以及处理类别失衡问题。

Jul, 2020

机器学习模型中的分布偏移会导致性能下降。本文研究了这些偏移的特征，主要关注实时竞价市场模型所带来的挑战，包括类别不平衡和样本选择偏差。本文提出了 ExTRA 算法，旨在通过确定源数据的重要性权重来最小化加权源数据和目标数据之间的 KL 散度。该方法具有使用标记的源数据和未标记的目标数据的能力。通过模拟真实世界的数据，我们研究了分布偏移的性质，并评估了所提出模型的适用性。

Aug, 2023

通过神经竞争和倾斜指数（TEXP）学习来提高深度网络的鲁棒性，无需数据增强，并通过倾斜 softmax 进行推断。

Nov, 2023

在半监督学习场景中，我们提出了使用指数倾斜混合模型和最大非参数似然估计法进行的统计方法的进一步分析和理解，并在允许未标记和标记数据之间类别比例不同的情况下，得出了基于指数倾斜混合模型的估计的渐近性质；同时在随机抽样和结果分层抽样设置中，展示了相对于监督逻辑回归的提高效率；此外，当未标记和标记数据的类别比例受限于相同的情况下，我们以现有的半参数效率理论为支撑，对于这种效率改进做出了解释。我们还通过模拟研究来数值上验证了我们的理论发现。

Nov, 2023

通过重新赋值训练数据的权重，我们提出了一种基于指数倾斜假设的分布转移模型，用于为目标任务学习训练数据的重要性权重，以最小化有标签的训练数据集与无标签的目标数据集之间的 KL 散度，并应用到水鸟和品种基准测试中展示了方法的有效性。

May, 2022

这篇论文提出了一种名为倾斜 k-means（TKM）的新算法，以实现聚类的个体公平性。通过将指数倾斜集成到平方误差和（SSE）中，形成了一种新的目标函数 —— 倾斜 SSE。基于协作下降和一阶梯度法进行优化，证明了 TKM 的收敛性。在公平性方面，证明了 TKM 生成的方差随着按比例缩放的超参数减小。在效率方面，证明了算法的时间复杂度与数据集大小呈线性关系。实验证明 TKM 在效果、公平性和效率方面优于现有的方法。

Jun, 2024

本研究中，我们将 AdaBoost ML 算法推广到最近引入的体温指数测量（TEMs），其中规范化强制执行在该测量的特定功率上而不是测量本身，我们的 $t$-AdaBoost 算法保留了 AdaBoost 的指数收敛速率，同时使速率的隐藏常数略有改善。

Jun, 2023

介绍了一种基于动量的梯度方法，使用最大化分类间隔相结合的凸对偶来训练线性分类器，表现出优异的性能

Jul, 2021

使用多任务学习的方法，通过考虑过度风险的任务平衡，来解决存在标签噪音的情况下，优化问题中任务权重难以调整的挑战。

Feb, 2024

本文介绍了多任务学习中的负迁移问题，提出了一种通过指数移动平均进行损失平衡的技术，以达到深度学习模型的高效训练，实现了与当前最佳方法相媲美的效果。

Nov, 2022