Dec, 2023

使用自监督预训练和定制微调的 Transformer 智能异常检测对车道渲染的应用

PDF
TL;DR该研究提出了一个四阶段的流程，在自主预训练和深度学习技术的基础上改善了车道渲染图像异常检测的准确性和效率，证实了该流程在数字导航系统中的优越性。
lane rendering image anomaly detectiondigital navigation systemsself-supervised pre-trainingtransformer modelsdeep learning techniques
发现论文，激发创造
  • 自编码器掩码序列自预训练与自定义 PolyLoss 微调实现鲁棒车道检测

    本研究提出利用自我预训练和自定义多连续帧图像的 PolyLoss 微调深度网络模型的方法，使车道检测性能得到进一步提高。得到了 98.38% 的最佳测试精度和 0.937 的最佳精确度，训练时间大大缩短。

    May, 2023

  • 基于自监督学习框架和遮挡图像建模的新型驾驶员分神行为检测

    本文介绍了一种基于自监督学习的用于驾驶员分心检测的新方法，该方法使用遮罩图像建模进行自监督学习，并利用 Swin Transformer 作为编码器以增强性能，最终使用各种数据增广策略加上最佳的随机遮罩策略来加强模型的识别和泛化能力，测试结果表明，该方法的准确率为 99.60％，接近先进的监督学习方法的出色表现。

    Jun, 2023

  • 用于图像异常定位的掩蔽变形器

    基于 Vision Transformer 架构和 Patch 掩蔽技术的图像异常检测方法，将输入图像分成多个分辨率的 Patch，在忽略异常信息的同时对周围数据进行重建，相较传统方法性能更好，MVTec 和 head CT 等数据集上实现了良好的结果。

    Oct, 2022

  • 基于 Transformer 的端到端车道形状预测

    本文提出了一种使用 transformer 网络进行车道检测的端到端方法，使用自我注意机制来捕捉细长结构和全局上下文，并在 TuSimple 基准测试中展示了最新的准确性，适应性和实际应用的强大部署潜力。

    Nov, 2020

  • FaultSeg Swin-UNETR：基于 Transformer 的自监督预训练模型用于故障识别

    通过自监督预训练方法来增强地震断层识别，在地球物理学和地质学领域具有重要意义。我们引入了自监督学习的概念，利用大量相对容易获得的无标签地震数据进行预训练，并在微调阶段对核心网络进行了改进，以实现更有效的断层检测。实验结果表明，我们提出的方法在 Thebe 数据集上达到了最先进性能。

    Oct, 2023

  • Swin Transformer 自监督预训练用于三维医学图像分析

    本文介绍了一种自我监督学习框架，使用适合医学图像分析的代理任务，成功地在各种人体器官的公开可用的 CT 图像上预训练模型，并在医学分割基准数据集上进行了微调，实现了最先进的匹配结果。

    Nov, 2021

  • 多自监督预微调的 Transformer 融合方法用于智能交通检测的改进

    提出了一个多自监督经预优化变形（MSPTF）网络，包含两个步骤：无监督经预优化领域知识学习和多模型融合目标任务学习。通过将自监督学习方法引入变形器模型的预优化，可以降低数据成本并减少预训练模型与目标任务之间的知识差距。并且通过考虑不同模型架构和不同预优化任务之间的特征信息差异，提出了多模型语义一致性交叉注意融合（MSCCF）网络，通过考虑通道语义一致性和特征向量语义一致性，获得更完整和合适的融合特征用于检测任务。在车辆识别数据集和道路病害检测数据集上进行了实验，与基线相比分别实现了 1.1％，5.5％，4.2％的改进，并与 sota 相比分别实现了 0.7％，1.8％，1.7％的改进，证明了该方法的有效性。

    Oct, 2023

  • 自监督图转换器用于深度伪造检测

    该研究介绍了一种深假检测框架，利用自监督预训练模型提供出色的泛化能力，能够应对常见的扭曲并解释模型的决策，实验证明该框架的有效性超过当前最先进方法。

    Jul, 2023

  • 基于 Transformer 的无监督脑部异常检测和分割

    通过将向量量化变分自编码器的潜在表示与自回归变换器集合相结合，我们在相对较小的数据范围内，以低计算成本实现了无监督的异常检测和分割，并在合成和真实病变实验中将其与现有方法进行了比较，证明了变换器在这一最具挑战性的成像任务中的潜力。

    Feb, 2021

  • 视觉 Transformer 预训练中遮蔽和置换视觉令牌的学习

    本研究提出了一种名为 MaPeT 的新型自监督预训练方法，旨在提高基于视觉任务的性能并解决输入噪声和不一致性问题，实验结果表明其在 ImageNet 数据集上具有与竞争对手相媲美的性能。

    Jun, 2023