Mar, 2024

ADAPT^2: 向终端用户自我监督重播的预训练传感模型适应

PDF
TL;DR提出了 ADAPT^2，一种用于个性化自我监督模型的少样本域适应框架，通过重新播放自我监督任务与用户特定数据进行用户端模型适应，以在少样本情况下将模型的预训练表示调整到用户。通过使用四个基准测试，ADAPT^2 的平均 F1 分数超过现有基准测试 8.8% p。在普通的手机上，ADAPT^2 内的装置计算开销分析表明，在不引人注目的延迟（三分钟内）内，ADAPT^2 完成了适应，并且仅占用 9.54% 的内存，从而证明了该方法的计算效率。
发现论文，激发创造
  • 无监督模型个性化保护隐私和可扩展性：一个开放性问题

    本文研究了无监督模型个性化任务，提出了一个新的 Dual User-Adaptation 框架，通过服务器端模型个性化和用户设备上的本地数据正则化，实现了可伸缩性和本地数据隐私保护的用户自适应模型。

    Mar, 2020

  • 高保真人脸模型的自监督适应用于单目性能跟踪

    本文提出了一个用于自然环境下高保真面部模型的自我监督方法。该方法通过训练一个新的神经网络，使其直接从单个 2D 图像驱动面部模型，然后基于连续帧纹理的一致性进行自监督领域自适应，以在不需要建模新环境的情况下，克服了实验室和无控制环境之间的域不匹配问题。实验表明，我们能够在手机相机下驱动一个高保真面部模型，而不需要来自新领域的任何标记数据。

    Jul, 2019

  • 计算机视觉任务的自监督域自适应

    本文提出了一种自我监督域自适应的通用方法，重点关注简单的预训练任务，如图像旋转预测，运用于对象识别和城市场景语义分割等场景，并提出了预测层对齐和批归一化校准等策略以进一步提高其准确性。实验结果表明自我监督在域自适应方面具有很大的潜力。

    Jul, 2019

  • 自动驾驶过去遍历特征的无监督领域适应

    通过利用未标记的多次穿越多个位置的方法，我们提出了一种用于自动驾驶汽车的 3D 物体检测系统的快速发展，该方法能够适应新的驾驶环境，并且在检测行人和远处物体方面取得了显著的性能提升。

    Sep, 2023

  • EgoAdapt: 面向现实世界自我中心用户视频的多流评估研究

    本研究提出了一个适应性范例，涉及到实时情境下的自我行为识别，并针对其在用户领域进行了优化，构建了 EgoAdapt 评估框架以应对现实中的挑战，同时提供了直接利用用户数据流进行度量的新指标，并且在 50 个独立的用户流之间进行元评估。

    Jul, 2023

  • 面部反欺诈的自领域适应

    本研究提出了一种自适应框架以应对面部反欺骗技术面临的跨域泛化问题，使用基于元学习的领域自适应算法，利用未标记的测试域数据来更新适配器以进一步提高性能。在四个公共数据集上的实验证明了该方法的有效性。

    Feb, 2021

  • 自我监督下的无监督领域自适应

    本文研究无监督领域自适应，提出了一种将源域和目标域之间的表示进行对齐的方法，从而使目标域数据的分类准确性更高。该方法利用自监督任务对两个域进行训练并成功地泛化到目标域。在实验中，我们获得了四个标准基准测试中的最先进结果，并在分割适应性方面取得了有竞争力的结果。

    Sep, 2019

  • 利用播放回归进行无监督领域自适应的三维物体检测

    本研究提出了一种新的学习方法通过在原始领域的伪标签上微调探测器来减少自动驾驶汽车在不同环境下的识别差异，据此，研究发现在五组自动驾驶数据集中，探测器在伪标签领域上的微调显著降低了探测器在新的行驶环境中的误判率。

    Mar, 2021

  • 一种概率框架的终身测试适应性

    PETAL 是一种基于概率视角和部分数据相关先验的测试时间自适应方法，利用 Fisher 信息矩阵的数据驱动模型参数重置机制应对非平稳目标领域转移，实验结果表明 PETAL 在多个基准测试数据集中表现出更好的预测性能和不确定性指标。

    Dec, 2022

  • RE-Adapt: 大型语言模型的逆向工程适应

    通过逆向设计适配器，我们介绍了 RE-Adapt 方法，该方法无需使用额外的数据或训练，可以在新域上对基础模型进行微调，并借助逆向设计的适配器重新适应指令跟踪，以优于其他微调方法。

    May, 2024