本文提出了一种基于源域推广到目标域的无监督领域适应方法,该方法通过校准源域和目标域的预测不确定性(以 Renyi 熵度量)来实现,使用变分贝叶斯学习可靠的不确定性估计,并讨论了其理论性质并在实验中验证了其有效性。
Jul, 2019
本文研究了深度神经网络模型校准方面的现有问题,并发现这类模型存在大量 “几乎确定” 置信度,导致常常过于自信。同时,文章提出可采用 Mixup 数据增强技术中的修改损失函数的方法来解决此类问题。
Jun, 2023
通过引入条件对抗学习,基于不确定性度量的领域自适应网络 (UaDAN) 能够适应性地分别对齐良好对齐和不良对齐的样本,在图像级别和实例级别逐步实现吸收知识,显著优于现有方法。
Feb, 2021
本文提出了一种基于 Monte-Carlo dropout 的不确定性滤波和特征对齐方法(UFAL),该方法包括 Uncertain Feature Loss(UFL)函数和 Uncertainty-Based Filtering(UBF)方法,能够有效解决无监督域自适应问题,达到了多个数据集上最先进的结果。
Sep, 2020
为了让实际应用的人工智能系统更加被广泛认知,模型的可信度至关重要。文章提出了一种新的训练策略,结合熵鼓励损失项和对抗校准损失项,以提高样本在领域世界偏移下的校准性和适应性。文章在不同的数据模式、数据集和网络架构上进行了全面的评估,结果显示该方法明显高于现有的最先进方法,应用于领域漂移下预测方面具有技术上的可信度。
Dec, 2020
该研究提出了一种基于狄利克雷分布的不确定性校准方法来提高领域适应模型,同时解决了不确定性预测和关键样本挑选的问题。
Feb, 2023
深度学习在许多领域都展现出其超凡表现,但仅仅依靠大量标记数据来训练模型并不能保证其在面临目标域的分布变化时仍有出色的表现,无监督域自适应通过利用源领域标记数据和目标领域未标记数据来解决该问题,并已在自然图像处理、自然语言处理等领域取得了许多令人期待的结果,该文对该领域的方法和应用进行了系统比较,并强调了当前方法的不足及未来研究方向。
Aug, 2022
提出了神经结构分布搜索 (Neural Architecture Distribution Search,NADS) 的指导原则来设计确定性感知架构,优化了随机的 Out-of-Distribution 检测目标,并构建了模型集合来执行 OoD 检测,在 15 个不同的测试配置中相对于最先进的方法准确率的提高高达 57%。
Jun, 2020
提出了一种在输出空间中采用对比损失来最大限度地增加干净图像和其对抗性示例之间的一致性的对抗性自监督 UDA 方法,名为 ASSUDA,以提高深度神经网络对敌对示例的鲁棒性和分割任务的可靠性。
May, 2021
本文针对文本分类任务中的 OOD 检测问题,提出了基于证据不确定性的方法,该方法通过引入辅助的离群样本和伪样本来训练模型,并明确建模了类别概率的不确定性。实验证明,该方法能够轻松部署于传统 RNN 和 Fine-tuned 预训练 transformers,并在 OOD 检测上优于其他方法。
Jul, 2021