自监督学习在自动驾驶的运动预测中的应用

Jun, 2022

自监督学习在自动驾驶的运动预测中的应用

SSL-Lanes: Self-Supervised Learning for Motion Forecasting in Autonomous Driving

Prarthana Bhattacharyya, Chengjie Huang, Krzysztof Czarnecki

TL;DR本研究首次系统地探索和评估了将自我监督学习纳入动态预测的潜力，并建议使用四个自我监督学习任务进行动态预测，其中辅助自我监督任务不仅可以提高预测准确性，而且具有低推理时间和建筑复杂性。

Abstract

self-supervised learning (SSL) is an emerging technique that has been successfully employed to train convolutional neural networks (CNNs) and graph neural networks (GNNs) for more transferable, generalizable, and

self-supervised learning motion forecasting autonomous driving convolutional neural networks graph neural networks

发现论文，激发创造

自主驾驶车辆感知的自监督学习：分析和学习方法的调和

本文介绍了自监督学习技术在自动驾驶感知中的应用，其能够替代传统手动标注的方式，为自动驾驶中的不同任务提供了有效的替代方法，并提出了未来自监督学习系统设计中的重要挑战。

Oct, 2019

自监督学习的逆向工程

本文深入分析了自监督学习的机制以及其对表示学习的影响，揭示了自监督学习在样本聚类方面的潜在驱动作用，同时证实了该方法所训练的表示与语义类别之间存在着密切的对齐关系，并且这种对齐关系随着训练和网络深度的加深而不断增强，这对于提高自监督学习方法的性能和效果具有重要的理论和实际意义。

May, 2023

自监督学习提升合成孔径声纳目标识别

这项研究探讨了自监督学习（SSL）在合成孔径声纳（SAS）图像识别改进中的应用，结果表明，尽管两个 SSL 模型在少样本情况下可以优于完全监督模型，但在使用全部标签时不能超过其性能，这有助于减少数据标记的时间和成本，同时提供了远程感知中使用 SSL 的证据。

Jul, 2023

预测 MAE：基于掩码自编码器的运动预测的自监督预训练

通过引入 Forecast-MAE，一种专为自我监督学习运动预测任务设计的掩模自编码器框架的扩展，利用标准 Transformer 块以及最小的内在偏差，我们在具有挑战性的 Argoverse 2 运动预测基准测试上进行的实验表明，Forecast-MAE 取得了与依赖于监督学习和复杂设计的最先进方法竞争性的性能，并且明显优于以前的自我监督学习方法。

Aug, 2023

时序分析的自监督学习：分类、进展和前景

本文综合评估了当前时序数据自监督学习方法的状况，并提供了相应的分类法，同时总结了常用数据集且给出了未来时序分析自监督学习的方向。

Jun, 2023

自监督学习的图神经网络：统一综述

本论文介绍了自监督学习在图神经网络上的应用，将其方法分为对比模型和预测模型并提供统一的框架，在 SSL 方法和数据集上提供了概述和标准化的测试平台。

Feb, 2021

自监督解决无监督异常检测的困境和机遇

自我监督学习在无监督异常检测中起到重要作用，对 SSL 策略的选择、超参数的调整、预处理任务和增强函数的设计以及基于密度估计的预训练模型的利用提出了新的发展和挑战。

Aug, 2023

利用自监督深度学习增强乳腺癌筛查乳腺 X 线摄影的检测能力

本研究探讨了基于强数据扩充的无监督自我学习技术在人工智能应用中的重要作用，以乳腺癌检测为例，通过实验验证表明使用该技术可以大幅提高数据利用率，而且更容易迁移到其他数据集，是医学图像人工智能领域迈向无监督学习和去掉传统稀缺标签的重要突破。

Mar, 2022

图上自监督学习：对比、生成或预测

本文介绍了在图形数据上进行自监督学习的方法，并将其分为对比、生成和预测三种类型，同时对常用数据集、指标、算法进行了总结，并讨论了未来研究方向。

May, 2021

推荐系统中自监督学习的综合调查

推荐系统在面对信息过载的挑战中发挥着关键作用，通过基于个人用户偏好的个性化推荐提供了解决方案。深度学习技术（如 RNN、GNN 和 Transformer 架构）显著推动了推荐系统的发展，增强其对用户行为和偏好的理解。然而，在现实场景中，监督学习方法由于数据稀疏性而面临挑战，限制了它们有效学习表示的能力。自监督学习技术作为一种解决方案应运而生，利用固有数据结构生成监督信号，不仅依赖于已标记的数据。通过利用未标记数据和提取有意义的表示方法，利用自监督学习的推荐系统可以在面对数据稀疏性时进行准确的预测和推荐。本文对为推荐系统设计的自监督学习框架进行了全面的回顾，包括对超过 170 篇论文的深入分析。我们探索了九种不同的场景，以全面理解不同情境中使用自监督学习增强的推荐系统。对于每个领域，我们详细阐述了不同的自监督学习范式，即对比学习、生成学习和对抗学习，以展示自监督学习如何在各种上下文中增强推荐系统的技术细节。我们在此 https URL 上持续更新相关的开源材料。

Apr, 2024