transformer-based encoder-decoder | BriefGPT

关键词transformer-based encoder-decoder

搜索结果 - 6

MAGIC: 地图指导的少样本音频 - 视觉声学建模
通过构造与声音相关的视觉语义特征图和地图，我们提出了一个以地图为导向的框架，通过少量的观测数据准确地建模环境声学。我们通过扩散特征和预测观测语义地图生成场景语义地图，然后通过基于 Transformer 的编码器 - 解码器与回声编码交互，
PDFa month ago
CVPRLane2Seq: 通过序列生成实现统一的车道检测
通过序列生成任务，提出了一个新的车道检测框架 Lane2Seq，它能够统一各种车道检测格式，并使用简单的交叉熵损失函数，同时还引入增强学习来提高模型的性能。实验结果显示，该简单的序列生成范式不仅能够统一车道检测，还在两个基准数据集上取得了竞
PDF4 months ago
CVPRGazeformer: 可扩展、有效、快速预测目标导向的人类注意力
本文提出了一个名为 ZeroGaze 的新任务，即预测未曾搜索过的物体的视线，并开发了一种新的模型 Gazeformer，该模型在 Scanpath 预测中利用语义相似性，采用基于变压器的编码器 - 解码器架构，并在 ZeroGaze 设置
PDFa year ago
用贪心的方式对层权重矩阵进行排序，提高 Transformer 的翻译效果
利用 AEIUOrder 算法通过改变编码器权重矩阵的顺序来最大化总的训练程度，从而提高 Transformer-based encoder-decoder 模型的翻译质量。
PDFa year ago
PreSTU：场景文本理解的预训练
本文介绍了一种新的预训练方法 PreSTU，利用 OCR 技术将场景中的文本信息识别并与图像其余内容连接起来，经实验证明在视觉问答和图像字幕等任务中取得了良好的效果。
PDF2 years ago
一种简化了的全量化 Transformer 用于端到端语音识别
本研究通过探究去除特定模块的影响以及减少神经网络的数字精度的方法，成功地简化和压缩了基于 Transformer 编码器 - 解码器的端到端语音识别架构，实验结果表明，我们能够通过将数字精度减少到 8 位定点精度，将全精度模型的参数数量减小
PDF5 years ago