transformer encoder | BriefGPT

关键词transformer encoder

搜索结果 - 72

基于卷积和 Transformer 的视频帧插帧网络
本文提出一种创新的方法，将 Transformer 编码器和卷积特征相结合，从而减少了近 50% 的内存负担，在推理时间上比现有的基于 Transformer 的插值方法运行速度提高了近四倍，并引入双编码器架构来结合局部相关的卷积和远程相关
PDFa year ago
TransformerG2G：使用 Transformer 学习时变图嵌入的自适应时间步长
开发了一种具有不确定性量化的图嵌入模型 TransformerG2G，通过利用先进的转换编码器从当前状态 ($ t $) 和先前上下文（在时间戳 [$ t-1，t-l $] 上，$ l $ 是上下文的长度）中首先学习中间节点表示。
PDFa year ago
基于图形神经解码器的音乐层级预测
本文提出了一种数据驱动的框架，以将音乐序列解析为依赖树，该系统不依赖于任何特定的符号语法，可以同时考虑多种音乐特征，并利用序列上下文信息，可以轻松集成到现代深度学习管道中。在两个音乐数据集上测试表明，该方法优于先前的方法。
PDFa year ago
SegT: 用于息肉分割的分离边缘引导 Transformer 网络
本文提出了一种新颖的分离边缘引导变压器（SegT）网络，旨在构建有效的息肉分割模型。该网络使用变压器编码器学习比现有的基于 CNN 方法更强大的表示，并利用分离的边缘引导模块确定息肉的精确分割。最后，使用创新的级联融合模块融合了精细的多级特
PDFa year ago
跨语言一致性正则化学习多语句子表示
MuSR 是一种支持 220 多种语言的全能多语种句子表示模型，通过使用数十亿个英文为中心的平行语料库，采用使用跨语言一致性规则化技术的多语言 NMT 框架，以训练多语言 Transformer 编码器，并采用辅助 Transformer
PDFa year ago
MM利用 Transformer 网络重建钢琴演奏中的人类表现力
本文提出了一种使用多层双向 Transformer 编码器重建钢琴演奏人类表现力的新方法，并使用现有的转录模型得到的转录乐谱来训练我们的模型，在此基础上通过控制采样过程中的钢琴家身份探索我们系统模拟不同钢琴家表现力差异的能力，在统计生成的表
PDFa year ago
带标点的端到端流式自动语音识别模型的改进训练
本文提出了一种基于 Transformer 编码器和 CTC loss 的方法，实现对输入语音的标点文本进行预测，并通过对文本分块和话语的 CTC 损失组合，提高了标点预测的准确性和单词错误率。
PDFa year ago
零样本自动发音评估
提出基于 HuBERT 的零样本自动发音评估方法，使用遮罩模块破坏语音输入获取令牌序列并使用得分模块测量错误恢复的令牌数量，在 speechocean762 上得到了可比较于监督回归基线且优于非回归基线的表现，同时分析了遮罩策略对自动发音评
PDFa year ago
ACLUniTRec: 一个文本到文本统一变换器和联合对比学习框架，用于基于文本的推荐
本文提出了一种名为 UniTRec 的框架，它使用预训练语言模型来增强基于文本的推荐系统，其中该框架使用 Transformer 编码器和解码器来处理用户历史和候选文本，利用语言困惑度作为对比信号进行匹配，展现了 SOTA 的表现。
PDFa year ago
交替梯度下降和专家混合模型用于综合多模态感知
该研究介绍了一种称为 “Integrated Multimodal Perception（IMP）” 的多模态多任务训练和建模方法，采用转换编码器对图像、视频、文本和音频等多模态输入进行整合处理，在一系列下游任务中实现了竞争性能和提高。在零
PDFa year ago
基于轻量级卷积变换器的跨患者多通道 EEG 信号癫痫检测
本研究旨在提出一种基于轻量级卷积变换器（LCT）的深度学习框架，该框架可从多通道脑电图信号中同时学习空间和时间相关信息以便更准确地检测癫痫，经过实验证明，该模型的效果非常好，准确率和 F1 得分可达 96.31% 和 96.32%，这一研究
PDFa year ago
NoiseTrans：基于 Transformer 的点云去噪
本文提出了一种基于 Transformer 编码器结构的点云去噪模型 NoiseTrans，通过自注意力机制以及本地点云注意力和稀疏编码等技术，将嘈杂的点云转换成干净的点云，实验结果显示该模型在各种数据集和噪声环境中优于现有技术。
PDFa year ago
AAAI一种基于问答的表单图像键值对提取方法
本文提出了一种新的基于问题回答的键值对提取方法 KVPFormer，使用 Transformer 编码器识别关键实体，通过 Transformer 解码器预测对应的答案，并进一步提出了粗细阶段答案预测方法和空间兼容性注意力偏差方法，从而在
PDFa year ago
VECO 2.0: 多粒度对比学习的跨语言语言模型预训练
本文提出了一种基于对比学习的多粒度对齐的跨语言预训练模型 VECO~2.0，将序列到序列对齐和标记到标记对齐相结合，以支持跨语言模型预训练，通过在 XTREME 基准上的实验证明了该方法的有效性。
PDFa year ago
标签信息强化图中低同源性欺诈检测
本文提出了一种使用组聚合技术和 Transformer 编码器的欺诈检测方法，解决了基于图的欺诈检测中节点分类的挑战，具有更好的性能。
PDFa year ago
AV-data2vec：具有语境目标表示的自监督学习音视频语音表征
本文介绍了一个名为 AV-data2vec 的模型，该模型利用预测上下文表示来构建音频 - 视觉表示，可以结合音频和视频来提高语音识别性能，相比现有方法，在大多数情况下，AV-data2vec 的表现都更好。
PDFa year ago
ACLNarrowBERT: 增强遮蔽语言模型的预训练和推理速度
本文介绍了一种修改的 transformer 编码器 --NarrowBERT，其通过使自注意力查询和前向层仅在预训练期间的屏蔽令牌上操作，从而增加了掩码语言模型预训练的吞吐量。此外，本文还显示，与 MNLI 等句子编码任务相比，Narr
PDFa year ago
AAAI基于证据检索技术和 Transformer 编码架构的多模式事实核查系统 Factify2
本文描述了我们在多模态事实检查挑战中的提交，包括探索的证据检索和选择技术，预训练的跨模态和单模型，以及基于 Transformer Encoder 体系结构的跨模态准确性模型等内容，并在 Factify 2 数据集上进行的探索性分析揭示了突
PDFa year ago
AAAI变量动作环境的 Transformer 作为策略
研究了在变量行动环境中，使用 Transformer 编码器进行策略设计的有效性，证明了使用 PPO 算法用于 Gym-$\mu$RTS 环境中训练代理的可行性，并与使用 GridNet 架构的下一个最佳 RL 代理相比，使用了一半的计算资
PDFa year ago
EMNLPSynGEC: 带定制的 GEC 导向解析器的句法增强语法错误修正
该研究提出了一种名为 SynGEC 的句法增强语法纠错方法，它有效地将依赖句法信息纳入 GEC 模型的编码器部分，其中重点挑战是在处理不合语法的句子时，标准分析器是不可靠的。为了克服这一挑战，我们提出使用并行 GEC 训练数据作为枢轴构建定
PDF2 years ago