本研究展示了在异方差分布上运行的主流主动学习技术的灾难性失败，并提出了一种基于微调的方法以缓解这些失败，同时结合模型差别评分函数提出了一个新的算法，在清除噪声示例的同时最大化准确性，表现优异于现有的主动学习技术。

Nov, 2022

本文提出了一种新的多样性正则化方法，使用超出分布的样本并增加集成模型的整体准确性，校准性和对外部分布的检测能力。通过在 CIFAR-10、CIFAR-100 和 SVHN 上的实验证明了，多样性正则化对于校准性和稳健性以及外部分布检测具有显著影响。

Jan, 2022

该研究提出了一种适用于回归问题的新型混合专家方法，利用个体专家的预测不确定性作为融合的依据，实现对不平衡数据的有效学习。实验结果表明，该方法优于现有备选方案，同时产生更好的不确定性估计。

May, 2023

本文从统计物理的角度研究了使用异方差神经回归模型对实际数据建模时遇到的困难，并且通过推导出的非参数自由能得出结论，证明了二阶段变化的存在，本文提供了异方差回归模型的理论解释，并提出一种优化正则化的方案。

Jun, 2023

提出了一种适用于高类别不平衡情况下学习的数据正则化算法在联邦学习环境中的应用，以提高心血管疾病预测模型的性能，并利用分布在联邦生态系统不同节点上的患者数据，不损害其隐私并实现更加资源敏感的分配。该方法在分散在不同客户端的四个心血管疾病预测数据集上进行评估，取得了改进的性能，并验证了在不同超参数设置和资源分配场景下的稳健性和适应能力。

May, 2024

本文介绍了一种基于逆方差权重的均方误差适应于神经网络的参数优化方法，同时提出了 Batch Inverse-Variance（BIV）作为一种损失函数用来控制学习率，并展示了 BIV 相比 L2 loss、逆方差加权和过滤式基准方法在两个噪声数据集上显著提高了神经网络的性能。

Jul, 2021

本文介绍了一种概率深度学习模型，名为 Variational Imbalanced Regression (VIR)。该模型可以在标记分布不平衡的情况下，准确地进行回归，并自然地产生合理的不确定度估计，实验证明我们的 VIR 在准确性和不确定度估计方面均可优于现有的不平衡回归模型。

Jun, 2023

深度学习中的误校准问题是指预测的置信度与性能之间存在差异。我们提出一种叫做 Dynamic Regularization (DReg) 的方法，通过动态调整正则化以提高模型的可靠性，适应于超出模型能力范围的样本，在理论和实证分析中已证明其优于之前的方法。

Feb, 2024

文章提出了一种新的方法 Deep Imbalanced Regression（DIR）来处理实际中连续性 target 的不均衡数据分布问题，通过分布平滑技术，使用已有数据来校准标签和学习特征的分布，同时构建了大规模的实际任务实验数据集，并在计算机视觉、自然语言处理、医疗保健等领域获得了良好的实验效果。

Feb, 2021

本文通过对 CIFAR-100 和 ImageNet 上使用现有正则化方法进行的实证评估，指出某些正则化方法可以作为保证深度神经网络（DNN）鲁棒性和不确定性评估的强有力基线方法。

Mar, 2020