Apr, 2021

数据分布转移时，使用自学习

PDF
TL;DR本文针对系统域转移下的计算机视觉模型，提出了熵最小化和伪标记等自学习技术的应用，通过大量实验展示了显著的改进效果和实用性。同时，本文还提出了一个新的分类数据集 ImageNet-D，对于自适应算法来说具有一定的挑战性。
self-learningentropy minimizationpseudo-labelingcomputer visiondomain shifts
发现论文，激发创造
  • 了解逐步领域适应的自训练

    论文研究了机器学习系统对随时间变化而演化的数据分布的适应性，在渐进领域适应的情况下，证明了使用自我训练的非空界，通过正则化和标签增强来提高算法精度，特别是对于 Wasserstein-infinity 距离较小的转化数据和真实肖像数据集。

    Feb, 2020

  • 自训练避免在领域偏移下使用错误特征

    该论文提出了许多方法用于处理不同领域之间的转换，例如通过条件熵最小化和伪标记来完成对这些情况的试验，除此以外还针对某些情况下的结果做出更深入的解释，并验证了这种方法在半合成的 Celeb-A 和 MNIST 数据集上是可行的。

    Jun, 2020

  • 自我监督的表示学习方法能否经受分布变化和损坏？

    自监督学习在计算机视觉中的鲁棒性研究调查了分布变化和图像损坏对学习表示的影响，发现较高级别的变化和损坏显著降低了学习表示的鲁棒性。研究强调了鲁棒性对自监督学习方法的性能和应用的关键影响，并强调了需要寻找有效策略以减轻其不利影响的重要性。

    Jul, 2023

  • 计算机视觉任务的自监督域自适应

    本文提出了一种自我监督域自适应的通用方法，重点关注简单的预训练任务，如图像旋转预测，运用于对象识别和城市场景语义分割等场景，并提出了预测层对齐和批归一化校准等策略以进一步提高其准确性。实验结果表明自我监督在域自适应方面具有很大的潜力。

    Jul, 2019

  • 基于变换不变自训练的医学图像分割领域适应

    半监督学习策略 —— 转化不变自训练（TI-ST）方法，通过评估像素级伪标签的可靠性并在自训练过程中过滤不可靠的检测，解决标签缺失和提高目标域分割性能。

    Jul, 2023

  • 通过置信度最大化和输入变换对分布偏移进行测试时间适应

    该论文研究深度神经网络在非训练时数据分布下表现不佳的问题，提出一种全测试时间适应的解决方案，通过使用替代熵和添加基于批次的熵最大化的多样性正则化器来解决熵最小化的早期收敛和不稳定性问题，并且可以通过在完全测试时间适应性损失中学习无需目标域标签或源域数据的输入变换模块，从而达到在 ImageNet-C 等挑战性基准测试中提高公共预训练图像分类器鲁棒性的效果。

    Jun, 2021

  • 领域迁移下的聚类学习

    本文提出了一种基于无监督域自适应和深度聚类的方法，利用来自多个源域的数据信息建立一个与具体域无关的聚类模型，并通过特征对齐和自我监督实现有效地适应目标域。本文的方法即使在少量目标样本的情况下也能自动发现相关语义信息，并在多个域自适应基准测试中取得了最先进的结果。

    Aug, 2020

  • 用于无监督分布偏移检测的自组织聚类系统

    本文提出了一种持续学习框架，用于监测和检测数据分布的变化，通过自组织聚类和潜空间的统计方面探索这个问题，方法可以应用于有监督和无监督的环境中，并且通过比较高斯信号构建数据分布变化的评估，具有快速和稳健的特点，通过与其他无监督技术的比较实验证明了方法的潜力。

    Apr, 2024

  • 无需源数据的无监督领域自适应

    该研究提出了一种针对亮度、对比度等自然变化轴的目标域适应方法，只需要无标签的目标数据和源分类器，有效地解决了预训练模型中源数据不可用的问题，并表明其在有限标记数据的情况下胜过微调基线。

    Jul, 2020

  • 自监督的无监督领域内语义分割自适应

    本文提出了一个两步自监督域自适应方法，以最小化域间和域内差距，首先进行模型的域间自适应，然后使用基于熵的排序函数将目标域分为易和难两部分，最终采用自监督自适应技术从易到难来降低域内差距。

    Apr, 2020