sequence-to-sequence | BriefGPT

关键词sequence-to-sequence

搜索结果 - 133

ICMLDual-CLVSA: 一种基于情感测量的新型深度学习方法预测金融市场
这篇论文提出了一种基于深度学习和序列到序列模型的新方法，名为 dual-CLVSA，可通过两个独立的渠道（交易数据和社会情感测量）来预测金融市场走势，并验证了社会情感测量不仅对于金融市场预测是信息丰富的，而且也包含额外的有效特征，以提高我们
PDF2 years ago
EMNLPSQUIRE: 多跳知识图推理的序列到序列框架
SQUIRE 是第一个基于序列到序列结构的多跳推理框架，利用编码器 - 解码器 Transformer 结构来将查询转化为路径，实验表明我们的方法在标准和稀疏知识图上都取得了显著的改进同时收敛速度提高了 4-7 倍。
PDF2 years ago
WSDM通过自然语言生成技术实现人类移动性预测
本文提出一种基于语言生成的人类移动趋势预测方法 SHIFT，通过将输入移动趋势描述句子转化为未来的移动状态描述，提高了移动预测模型的有效性和准确性。
PDF3 years ago
高质量流媒体语音合成低，句子长度无关的延迟
本文提出了一种针对实时应用具有低延迟的 CPU 端到端文本转语音系统，使用自回归基于注意力机制的序列到序列声学模型和 LPCNet 声码器进行波形生成，实验结果显示，该系统能够在 CPU 上几乎达到 31 倍的实时最小延迟，并且能够生成几乎
PDF3 years ago
NVIDIA NeMo WMT21 英德及英俄新闻和生物医学任务神经机器翻译系统
本文介绍了 NVIDIA NeMo 神经机器翻译系统在 WMT21 新闻和生物医学共享翻译任务的受限数据跟踪中的运用，其中新闻任务的提交在 Transform 器基础的序列到序列模型上，采用了多项技术手段并且获得了比去年任务最佳提交更好的表
PDF3 years ago
BARTpho: 为越南语预训练的序列到序列模型
本文介绍了两个版本的 BARTpho 模型：BARTpho-syllable 和 BARTpho-word，这两个模型是首个由越南语言训练的公共大规模单语序列到序列模型，使用 BART 的预训练机制，适用于生成式自然语言处理任务。在越南文本
PDF3 years ago
ICCVPose Transformers（POTR）：使用非自回归 Transformer 进行人体动作预测
该研究提出使用 Transformer 建模实现非自回归人体运动预测，采用串行解码替代基于先前预测的循环神经网络，实现了在序列中并行解码。该方法在短期预测方面具有较高的竞争力。
PDF3 years ago
ACLIndicBART：用于 Indic 自然语言生成的预训练模型
本文探讨了预训练的序列到序列模型在相关语言群中的应用，关注印欧语言。我们介绍了 IndicBART - 一种针对 11 种印欧语言和英语的多语言序列到序列预训练模型。通过利用印欧语言之间的拼写相似性，IndicBART 在类似印欧语言之间进
PDF3 years ago
EMNLPForm2Seq：高阶表单结构提取框架
提出一种基于文本的新颖结构提取框架 Form2Seq，将文档结构提取任务转化为两个子任务：低级元素分类和高级构建分组，通过顺序预测每个元素实现结构提取，使用两个任务级联深度学习训练提高了结果准确性，在 ICDAR 2013 数据集上实现了最
PDF3 years ago
ACL各种 NER 子任务的统一生成框架
该研究提出了一种基于序列到序列的统一框架实现实体识别子任务的方法，既不需要特定的标记模式和枚举语法，也能够同时解决平面、嵌套和不连续型 NER 任务，通过使用三种实体表示方法，实现了出色的表现。
PDF3 years ago
ACL高效内存可微分 Transformer 架构搜索
本文提出了一种结合可微分架构搜索（DARTS）和多分裂可逆网络的算法，以提高在序列到序列数据集上的性能，并优于传统 Transformers。
PDF3 years ago
视觉显著性转换器
本文提出了一种基于 transformer 的纯序列转序列架构的视觉显著性检测器（VST），通过建模长程依赖关系，实现了对 RGB 和 RGB-D 显著对象检测的统一建模。实验结果表明，该方法在常用数据集上表现出色，并且提供了新的 SOD
PDF3 years ago
使用中间表示解锁预训练模型中的组合概括能力
通过使用中间表示法，这篇研究提出了一种改善基于预训练的 seq2seq 模型的组合泛化能力的有效方法，该方法在 CFQ 数据集上表现出新的最优水平（精度提高 14.8 个百分点），在三个 text-to-SQL 数据集的示例分割上精度提高了
PDF3 years ago
ACL偏向于单调性的 Transformer 注意力
本文研究自然语言处理中序列到序列任务的单调注意力特性，并介绍了一种与标准注意力机制兼容的单调损失函数，经过实验表明可以在一定程度上实现单调性，但性能的提升并不是非常显著。
PDF3 years ago
CPTR: 图像标注的全变压器网络
本研究提出了 CaPtion TransformeR （简称 CPTR）这一基于序列到序列（sequence-to-sequence) 预测方法的图片标注任务模型。与传统的 “CNN+Transformer” 设计范式不同，本研究的模型从一
PDF3 years ago
情感语音合成的细粒度情感强度传输、控制和预测
本文提出了一种用于序列到序列的细粒度情感语音合成的统一模型，通过学习到的排名函数引入音素级情感强度表示来描述本地情感细节，并采用句子级情感类别来呈现合成语音的全局情感。
PDF4 years ago
Wave-Tacotron: 基于端到端的文本到语音合成的光谱图自由方法
本研究描述了一种序列到序列的神经网络，可以直接将文本输入转化为语音波形，具备较快的语音生成速度，而且不需要使用中间特征来实现。该模型使用自回归解码器循环与标准化流相结合，对输出波形进行建模，并能够处理长期依赖关系。实验证明，所提出的模型的语
PDF4 years ago
使用 Transformer 从序列到序列视角重新思考立体深度估计
本文介绍了一种名为 STereo TRansformer (STTR) 的方法，采用序列到序列的对应关系角度来进行立体深度估计，使用位置信息和注意力机制来进行密集像素匹配，克服了固定视差范围的限制，识别遮挡区域和提供置信度估计，并在合成和真
PDF4 years ago
COLING探究生成深度问题的问题特定奖励
通过强化学习优化针对问题产生特定目标的奖励，如流畅性、相关性和可回答性，以提高生成问题的质量。优化问题特定的奖励通常会在自动评估指标中表现出更好的性能，但是，仅与人类判断相关的奖励（例如相关性）会在实际问题质量上带来真正的改善。只优化可回答
PDF4 years ago
ACL上下文化时间图生成的神经语言建模
使用大规模预训练语言模型自动产生基于事件级别的时间图的第一项研究，通过使用现有的信息提取 / 自然语言处理工具自动生成大量文档 - 图对，并将上下文化图的产生问题作为序列到序列映射任务提出创新方案，我们的实验表明，我们的方法在生成结构和语义
PDF4 years ago