- ACL高效样本特定编码器扰动
通过对 encoder-decoder 系统的行为进行修改,本研究提出了一个简单且轻量级的方法来控制特定属性的行为。在改进了 COMET 在机器翻译和 Whisper 基础模型在语音识别中的性能的基础上,实验结果显示了持续不断的改进。
- T-DEED: 在体育视频中用于精确事件检测的时序可区分性增强编码器 - 解码器
T-DEED 是一种用于体育视频中精确事件检测的时序可识别增强编码解码器,它通过特殊设计的架构和时间模块来解决时间刻度多样性和高输出时间分辨率的挑战,并在 FigureSkating 和 FineDiving 数据集上取得 SOTA 性能。
- MarsSeg: 使用多级特征提取器和连接器进行火星表面语义分割
从火星表面的复杂地形、相似的表面特征和缺乏广泛标注数据等方面入手,该研究提出了一种名为 MarsSeg 的新型编码器 - 解码器火星分割网络,利用最小化下采样层数量的编码器 - 解码器结构以保留局部细节,并引入位于编码器和解码器之间的特征增 - EDDA:一种用于零样本立场检测的编码器 - 解码器数据增强框架
我们提出了一种基于编码器 - 解码器的数据增强框架,通过逻辑关系以及语义相关性的词替换策略,增加了语义相关性和句法多样性,并使得数据在进行神经网络训练时变得可解释。在基准数据集上的实验表明,我们的方法在零样本情况下的立场检测明显优于现有技术 - MAMI: 长序列神经图像描述的多注意力互信息
神经元标记是一种可视化特定神经元对激活模式的行为和响应方式的方法,以深度神经网络为基础,使用编码器 - 解码器图像字幕生成方法,通过改进注意机制和合并多种注意结果,以实现更好的神经元标题生成性能。
- 机器学习的磁性材料模型
我们提出了一个使用深度神经网络对材料进行建模的通用框架,并证明了该模型在同时建模频率和电流(超线性范围)域中的磁性材料方面的实用性。
- SED: 开放词汇语义分割的简单编码器 - 解码器
我们提出了一种名为 SED 的简单的编码器 - 解码器模型用于开放词汇语义分割任务,该模型通过分层背骨和渐进融合解码器实现像素级图像分割,同时引入了类别早期拒绝机制以加快推理速度,实验证明该方法在多个数据集上的性能表现良好
- 双编码器 - 解码器的交换:具有语义引导和空间定位的变化检测的新策略
基于语义引导和空间定位的深度学习编码器 - 解码器结构解决了双时相特征干扰和特定应用限制的改变检测问题,通过决策层融合双时相特征和利用双时相语义特征确定变化区域,该模型在六个数据集上验证并与 18 种最先进的改变检测方法进行比较,结果显示该 - FS-Net: 全尺度网络与自适应阈值用于提升微血管结构的提取
提出了一种基于编码解码神经网络结构、sigmoid 平滑和自适应阈值方法的全尺度微血管提取机制,对视网膜血管分割问题进行了降低,取得了与之前研究相比具有竞争力的结果。这一性能的提升使得该解决方案更有可能应用于寻求眼科专家关注的真实诊断中心。
- 充分利用 Seq2Seq 模型作为强大的少样本学习器
在广泛的任务范围内,通过在 - context 学习中的两种方法:目标对齐提示和基于融合的方法,我们提出了一种比传统的 seq2seq 模型在各种设置下表现更好的方法,它将比传统的 seq2seq 模型更有效地引出函数序列到序列模型的学习能 - 光网络实时异常检测的机器学习
本研究提出使用编码器 - 解码器深度学习模型,结合实时质量传输观测信息进行软故障演化模拟,用于网络攻击等异常检测。该模型在无需标记异常情况和分析整个数据集缺陷的前提下,实时有效地检测网络异常波动。
- SegT: 用于息肉分割的分离边缘引导 Transformer 网络
本文提出了一种新颖的分离边缘引导变压器(SegT)网络,旨在构建有效的息肉分割模型。该网络使用变压器编码器学习比现有的基于 CNN 方法更强大的表示,并利用分离的边缘引导模块确定息肉的精确分割。最后,使用创新的级联融合模块融合了精细的多级特 - 视觉语言预训练数据压缩
该论文提出一种名为 TL;DR 的视觉语言学习算法,它利用基于编码器 - 解码器的编码器来选择代表性样本,并生成新的标题,旨在将现有的大规模 VLP 数据压缩为小高质量数据集。实验证明,使用 TL;DR 压缩后的数据集能够在许多下游任务中提 - ACL多语言问答生成的实用工具包
本文介绍了一种多语言的问答生成模型 AutoQG 及其 Python 包 lmqg,模型基于预训练的 encoder-decoder 语言模型,在 8 种语言上 fine-tune,并提供了一个 web 界面和易于使用的代码,方便从业者使用 - 面向社交媒体用户的主题引导自我介绍生成
该研究提出了一个基于 Twitter 数据集的自我介绍文本自动生成方法,利用一个新的基于主题模型的编码器 - 解码器框架,生成用户自我介绍文本并提高了解码结果的质量。
- 编码器 - 解码器语言模型的任务无关蒸馏
通过探讨 MiniEnD 方法来针对语言模型(LMs)的无特定任务的精炼,以及针对编码 - 解码 LMs 的精炼,旨在让它们保持性能同时实现计算有效,从而在语言理解和摘要制作方面得到好的效果,而且 MiniEnD 与其他备选方案相比具有良好 - CodeT5+: 用于代码理解和生成的开源大型语言模型
提出了一种名为 CodeT5 + 的编译器 - 解码器语言模型,具有灵活的组件模块和多样化的预训练任务,能够在不同的代码相关基准测试中取得最先进的结果,特别是在针对人类评估的代码生成任务中。
- EdgeNet:电子商务在线广告拍卖设计编码器 - 解码器生成网络
本研究介绍了一种名为 EdgeNet 的新型编码器 - 解码器生成神经网络,其引入了一种新颖的编码器 - 解码器框架,用于在线电子商务广告中数据驱动的拍卖设计,通过破坏以广义第二价格为基础的神经拍卖模型,提高数据利用效率,并改进了拍卖机制的 - NorBench -- 挪威语言模型基准测试
NorBench 提供一套简化的 NLP 任务和探针,并引入了一系列新的挪威语言模型(包括编码器和编码器解码器),最后对其性能和其他现有的 LMs 在 NorBench 的不同基准测试中进行了比较和分析。
- ACL基于混合换能器和注意力编码器 - 解码器模型的语音转文本任务
通过结合 Transducer 和基于 Attention 的编码器 - 解码器 (AED) 框架,我们提出了一种新的 TAED 框架,它既具有非单调序列到序列学习的优势,又保持了 Transducer 的流式属性,通过在同一个语音编码器上