ICCVFeb, 2021

松弛 Transformer 解码器用于直接行动提议生成

PDF
TL;DR这篇论文提出了 RTD-Net 框架，利用 Transformer 类似的架构直接生成动作建议，通过在时间范围内更好地捕捉长程时间信息的边界注意模块来应对视频中的缓慢先前，通过松弛匹配方案来缓解对每个真实值的单一分配的限制，并使用三分支头明确地预测其完整性来进一步提高提案置信度，从而在 THUMOS14 和 ActivityNet-1.3 基准测试中具有很好的效果，同时比以前的提案生成方法更有效率。
temporal action proposal generationrtd-nettransformer-alike architectureboundary attentive moduletemporal action detection
发现论文，激发创造
  • 使用 Transformer 进行端到端时序动作检测

    本研究提出了一种基于 Transformer 的时态动作检测方法，通过少量学习嵌入（称为动作查询）从视频中自适应地提取时间上下文信息，并直接预测动作实例的时间间隔和语义标签，通过三种改进提高本地化意识，实现了端到端的学习，并取得了与现有方法相比的卓越性能。

    Jun, 2021

  • DiffTAD: 带有提案去噪扩散的时间动作检测

    本文提出了一种使用扩散去噪的新时域动作检测（TAD）方法，名为 DiffTAD。该方法采用生成建模方法，而非以往判别式学习方法，借助 Transformer decoder 中引入的时间位置查询设计来建立去噪过程，通过交叉步选择性调节算法来提高推断速度。在 ActivityNet 和 THUMOS 上广泛评估后，我们的 DiffTAD 相比以往的艺术选择方案，表现出卓越的性能。

    Mar, 2023

  • 双重 DETR 用于多标签时间动作检测

    提出了一种新的双层查询型时态行动检测框架 DualDETR，在多标签 TAD 基准测试中表现出优于现有最先进方法的性能，在 det-mAP 下实现了显著改进，在 seg-mAP 下取得了令人印象深刻的结果。

    Mar, 2024

  • 基于 Transformer 的时域动作提议生成

    本文提出了一种使用 Transformer 网络的统一的时间动作提议生成框架，通过 Boundary Transformer 预测边界信息和 Proposal Transformer 学习关系以实现可靠的置信度评估，结果表明，此方法在时间动作本地化任务上表现出色。

    May, 2021

  • 关系查询下的时间行为检测 (ReAct)

    本文提出了一种名为 ReAct 的时域动作检测模型，采用编解码框架和动作查询相似于 DETR，使用关系注意力机制和两个损失函数加强动作分类的训练，最后通过预测每个动作查询的本地化质量来区分高质量的查询，该模型在 THUMOS14 上取得了最先进的性能，并降低了计算成本。

    Jul, 2022

  • OadTR: 使用 Transformer 进行在线动作检测

    本文提出了一个新的 Transformers 编码器 - 解码器框架 OadTR 用于在线行动检测，该模型能够同时编码历史信息并预测未来内容，性能优于目前基于 RNN 的方法。

    Jun, 2021

  • 稀疏提议优化高质量时序动作检测

    本文提出了一种名为 SP-TAD 的方法来应对在时间行为检测上的挑战，其利用了稀疏 proposal 和特征金字塔来构建多尺度特征以准确捕捉行为细节，实验结果表明，该方法取得了与现有最优方法相媲美的性能。

    Sep, 2021

  • 自反馈 DETR 用于时态行为检测

    通过利用解码器的交叉注意映射以重新激活自注意模块，我们提出了一种名为 Self-DETR 的新型框架来解决 TAD 中的时间折叠问题，并通过保持所有层次上的高多样性注意来证明其有效性。

    Aug, 2023

  • 增强即时可辨性的时间动作定位

    基于 TriDet 模型的时间动作检测（TAD）在多个 TAD 数据集上表现出鲁棒性和最先进的性能，包括分层（多标签）TAD 数据集。

    Sep, 2023

  • 多模态 Transformer 网络用于动作检测

    本文提出了一种新的多模态转换器网络，用于检测未修剪视频中的动作，利用新的多模态注意机制计算不同空间和动态模态组合之间的相关性，并提出一种算法来纠正相机运动引起的动态变形，该算法在 THUMOS14 和 ActivityNet 两个公共基准测试上优于现有方法，在我们的新教育活动数据集上进行了比较实验，该数据集包括从小学捕捉的大量具有挑战性的课堂视频。

    May, 2023