multi-tasking | BriefGPT - AI 论文速递

关键词multi-tasking

搜索结果 - 11

Cappy: 用小型评分器提高大规模多任务语言模型的性能
借助仅有 3.6 亿参数的预训练小型评分器 Cappy，无需对大规模语言模型进行微调或访问其参数，既能独立进行多种分类任务，也能提升大规模语言模型的性能和效率，对复杂任务具有较大的提升空间，并且可以与其他语言模型适应方法协同工作，进一步提高
PDF8 months ago
RED: 机器人环境动力学的系统实时调度方法
利用 RED 系统，我们介绍了一种真实时间调度方法，旨在支持资源有限的机器人系统中的多任务深度神经网络工作负载。RED 系统通过灵活处理机器人环境动态，利用中间截止日期分配策略和工作负载优化过程，实现了对 MIMONet 的适应和最大化效能
PDF10 months ago
使用可适应的任务特定前缀轻松更新通用文本表示
该论文提出了一种基于前缀的方法来学习固定文本表示，该方法可以通过多次前向传递来更新文本表示。实验结果表明，该方法在更新文本表示时可以比多任务训练更省计算资源。
PDFa year ago
面向会话的文本到 SQL 转换：现状和未来挑战的探索
通过多任务联合训练和模式重排应用于 text-to-SQL 任务中，可以显著提高模型的表现，进一步结合查询计划模型和模式链接算法后，T5-3B 的精确匹配和执行匹配的准确度均超过 SOTA 基线。
PDFa year ago
EMNLPLila: 数学推理的统一基准
通过构建 LILA 基准测试，我们提出了一种旨在评估和改进人工智能系统在数学推理领域中表现的方法，并发现多任务学习可以显著提高性能，在一般数学推理和理解方面还有提高的余地。
PDF2 years ago
MMTM：用于数学应用题的多任务多解码器变换器
提出一种新的神经网络模型 MMTM，利用多任务和多解码器，在预训练期间创建变体任务，使用特定任务的解码器并使用 Transformer 架构。该模型在对抗性挑战数据集 SVAMP 上相对于 Seq2Seq，GTS 和 Graph2Tree
PDF2 years ago
EMNLP使用任务级别 Mixture-of-Experts 挖掘和理解跨任务技能
本文介绍了一种针对 NLP 任务的基于任务级别的专家混合模型，该模型使用一组具有灵活性的 Transformer 层和一个路由组件进行任务分配，其表现优于传统的多任务学习模型，同时也发现保留人类任务分类方法对提高模型性能有一定帮助。
PDF2 years ago
EMNLP超级解码器：用于多任务自然语言处理的特定实例解码器
该研究调查了针对 NLP 的输入条件化超网络用于多任务处理，生成一个基于编码器的输出条件化超网络对解码器的参数高效自适应。该方法应用于序列分类任务、问答和摘要等方面，发现这优于以前的参数优化和基于模型微调的方法。
PDF2 years ago
ACL对话十项全能：基于开放领域知识和图像为基础的会话代理
本文介绍了一个名为 DodecaDialogue 的任务集，旨在衡量对话智能体是否能够通过个性化和移情表达、提问、利用知识资源回答问题、讨论话题和情境以及感知和谈论图像等多方面的能力与人类进行开放领域的对话。通过在如此广泛的大规模数据上进行
PDF5 years ago
利用可压特征进行协同智能的多任务学习
在此研究中，作者介绍了一种新的损失函数，旨在促进 feature 的可压缩性，而不会牺牲多个任务的系统性能，作者称之为压缩友好的丢失函数，实验结果显示，使用这种丢失函数，可以实现约 20％的比特率降低。
PDF5 years ago
XNMT: 可扩展的神经机器翻译工具包
XNMT 是一款开源的、基于模块化代码设计的神经机器翻译工具，可应用于机器翻译、语音识别和多任务翻译 / 解析等领域。
PDF6 years ago