encoder-decoder transformer | BriefGPT

关键词encoder-decoder transformer

搜索结果 - 9

FootBots: 基于 Transformer 的足球运动预测架构
足球中的运动预测通过捕捉球员和球的相互作用的复杂动力学。我们提出了 FootBots，一种基于编码器 - 解码器变压器结构的体系结构，通过等变性属性来解决运动预测和有条件的运动预测。FootBots 使用集合注意力块和多注意力块解码器来捕捉
PDF4 days ago
Diffusion-TS: 通用时间序列生成的可解释扩散
Denoising diffusion probabilistic models (DDPMs) are becoming the leading paradigm for generative models. In this paper,
PDF4 months ago
使用检测变换器进行联合微震事件检测和定位
提出了一种将事件检测和源位置统一到单一框架的方法，通过适应具有基于卷积神经网络骨干结构和编码器 - 解码器变压器的集合匈牙利损失，直接应用于记录的波形，实现了实时微地震监测的潜力。
PDFa year ago
图像字幕生成器也是可扩展的视觉学习者
本文通过仔细匹配训练数据、计算和模型容量，公平地比较了对比预训练和图像字幕等两种预训练策略，并发现仅采用图像字幕训练也很有效，既可以产生与对比预训练编码器竞争的视觉编码器，也可以在视觉和语言任务上超越它们。
PDFa year ago
CVPRMED-VT：多尺度编码器 - 解码器视频 Transformer 及其在对象分割中的应用
本文提出了一种统一的多尺度编码 - 解码变形器，重点针对视频中的密集预测任务，利用编码器和解码器的多尺度表示提取时空特征以及进行精确的定位，同时采用多对多标签传播的转导学习方案，实现高精度视频对象分割和演员 / 动作分割。
PDFa year ago
基于 Transformer 的序列到序列钢琴转录
本文展示了使用通用 encoder-decoder Transformer 和标准解码方法可实现与专业领域特定设计模型同等效果的自动音乐转录方法，从而取消了任务特定架构的需求，简化了转录，为集中精力于数据集创建和标注而非模型设计提供了可能性
PDF3 years ago
学习时空变换器进行视觉跟踪
本文提出一种新的追踪架构，它以编码 - 解码变压器作为核心组件，将目标追踪转化为直接边界框预测问题，从而实现了端到端模型，无需使用任何先前设定的锚点或提案等后处理步骤。
PDF3 years ago
Text-Image-Layout Transformer 技术在文档理解中的全面应用
本文介绍了 TILT 神经网络架构，该架构同时学习布局信息、视觉特征和文本语义的自然语言理解方式。与以往的方法不同，我们依赖于一个能够统一涉及自然语言的各种问题的解码器。该架构的核心是一个预训练的编码器 - 解码器 Transformer，
PDF3 years ago
EMNLP整合行为假设进行查询生成
通过提出行为偏差的假设，本文提出了一种通用的编码器 - 解码器变压器框架，以聚合任意假设，进而在检索任务中实现了较大的性能提升，包括 top-$k$ 词语错误率和 Bert F1 得分。
PDF4 years ago