通过以熵最小化为灵感来源的样本选择方法，我们过滤掉适应模型中的置信度值降低的样本，从而解决测试时自适应方法中由于错误预测导致的噪音问题，显著改善了图像分类和语义分割的长期适应性能。

Aug, 2023

文本分类是自然语言处理的基础任务之一，本文提出了一种基于元学习算法的元 - Tsallis 熵最小化方法（MTEM），用于在目标领域上优化实例适应性 Tsallis 熵，以实现领域适应。实验结果表明，MTEM 在基准数据集上提升了 BERT 的适应性性能，平均提升 4%。

Aug, 2023

提出了一种基于 Minimax Entropy 的半监督域自适应方法，在有限的标记信息下，与其他基线方法相比，提高了无标记目标数据分类的准确性。

Apr, 2019

研究发现，针对机器学习中许多问题，大多数采用随机梯度下降算法，并能够在实践中实现最佳结果，但通常无法达到全局最小值，其实际效果至今仍是一个谜，本文研究了参数推断和统计物理中的自由能最小化之间的对应关系，证明了宽而浅的极小值在系统欠采样时是最优的，同时还显示该算法的随机性具有非平凡的相关结构，会使其有偏地偏向于宽的极小值。

Mar, 2018

利用伪监督和一致性正则化的半监督图像分类方法，在最大化增强视图之间的互信息下限时，通过信息熵神经估计利用未标记样本的潜力，从理论上分析出图像分类器的信息熵通过最大化 softmax 预测的似然函数近似估计。在这些见解的指导下，我们从两个角度优化我们的模型，以确保预测的概率分布与真实分布紧密一致，并通过大量实验证明其卓越性能。

Apr, 2024

本研究提出了一种自适应训练算法，通过模型预测动态纠正出现问题的训练标签，从而提高深度学习在可能出现标签噪声和超出分布样本的情况下的数据稳健性。实验结果表明，自适应训练可显著提高我们的方法在标签噪声和选择分类两个应用上的性能表现。

Feb, 2020

提出了一种名为 Robust Entropy Adaptive Loss Minimization (REALM) 的方法，通过改进 F-TTA 中的噪声样本问题，提高了自适应过程的准确性。

Sep, 2023

本篇研究提出了基于测试熵最小化（TENT）的完全测试时间自适应模型，通过优化其预测熵来提高分类性能，该方法在多个数据集上均取得了最先进的成果。

Jun, 2020

本文探讨了学习最小化图像表示中的信息泄露的问题，并通过对抗性非零和游戏的形式表述该问题，提出了一种新方法。实验结果表明，该方法能够学习高任务性能的图像表示，同时减少了预定义敏感信息的泄露。

Apr, 2019

本文提出了两种基于像素预测熵的损失函数的方法来解决语义分割中的无监督域适应问题，分别采用熵损失和对抗性损失。在两个具有挑战性的 “synthetic-2-real” 场景下，我们证明了该方法在语义分割方面具有最先进的性能，并且该方法也可以用于检测。

Nov, 2018