zero-shot transfer | BriefGPT

关键词zero-shot transfer

搜索结果 - 54

EMNLP无监督信息抽取作为统一的文本到三元组翻译
运用文本三元组转换模型，将信息提取任务转化为输入文本到输出三元组的翻译过程，通过预训练语言模型的潜在知识对不同任务进行转换，预测输入文本对应的关系性信息可以有效地生成任务特定的输出，并且不需要任何特定的任务训练就可以实现零样本迁移，相比于有
PDF3 years ago
EMNLP基于流程图的任务导向对话的端到端学习
本文提出了一种在端到端的任务导向对话（TOD）学习中的新问题，其中对话系统模拟故障排除代理人，帮助用户诊断问题。我们发布了一个数据集（FloDial）并设计了一个神经模型（FloNet），实验证明 FloNet 可以进行零 - shot 迁
PDF3 years ago
深度度量学习中针对带外分布偏移的泛化特征描述
该研究提出了一个称为 ooDML 的基准测试，旨在评估 Deep Metric Learning 算法在面对不同程度和难度的数据分布转移时的泛化性能，研究发现，在挑战性更多样的训练测试分布转移情况下，部分方法可以更好地保持性能，最后，提出
PDF3 years ago
重审零样本跨语言转移中英语的首要地位
本文对于使用不同语言进行零样本跨语言转移的多语言模型进行了研究，发现高资源语言如德语和俄语在多数情况下能够更加有效地进行迁移学习，即使训练集是自动从英语翻译而来。同时，该结论对于多语言零样本系统有着重要影响，并且应该指导未来的基准设计。
PDF3 years ago
从自然语言监督中学习可转移的视觉模型
通过预测图像与文本配对来预训练计算机视觉系统，使其可以从自然语言描述中直接学习视觉概念，从而实现零样本迁移，并在多个计算机视觉任务上展现出竞争力。
PDF3 years ago
EMNLPMultiCQA：基于自监督文本匹配模型的零样本迁移在大规模上的应用
研究了 140 个英文社区问答论坛上自我监督训练的文本匹配模型的零样本转移能力，并调查了其在九个答案选择和问题相似性任务的模型表现，提出了结合自我监督与监督多任务学习的最佳零样本转移模型，该模型在所有九个任务上均实现了最新的状态。
PDF4 years ago
EMNLP为 BERT 多语能力识别必要元素
该研究通过实现小型 BERT 模型的混合合成数据和自然数据训练，试图从语言学和结构特征两个方面，探究多语 BERT 能实现无监督跨语言转移的原因。其结果表明，在 lexical、syntactic 以及阅读理解方面，mBERT 已实现了高质
PDF4 years ago
ICML分层解耦模仿用于形态转移
通过将策略分解为独立学习的底层策略和可转移的高层策略，以简化形态的机器人为源，提出了一种层次化的策略转移方法，通过激励底层策略的学习，从而大幅提高了零样本高层策略的可转移性。同时，采用 KL 正则化训练高层策略会稳定学习并防止模式崩溃，进一
PDF4 years ago
ICLR多语种上下文词表示的对齐
提出了一种测量和加强上下文嵌入对齐的程序，证明其在分析和改进多语言 BERT 方面非常有用。在我们的对齐程序之后，BERT 在零 - shot 任务中表现显著提高。使用上下文版本的 Word Retrieval 任务，我们发现 BERT 存
PDF4 years ago
EMNLP基于预训练多语言句子表示的零样本依存句法分析
本篇论文研究了是否可以利用大规模多语言语料库（multilingual BERT）上预训练的现成双向深度句子表征，开发出一种无监督的通用句法分析器，以支持低资源语言的处理。实验结果表明，我们的方法在六种真正的低资源语言中均优于 CoNLL
PDF5 years ago
评估大规模多语言神经机器翻译的跨语种有效性
本文评估了一个大规模多语言神经机器翻译模型编码器在五个跨语言分类和序列标记任务中的跨语言效果，并展示了零 - shot 转移学习中在四个任务中的增益。
PDF5 years ago
AAAI零样本神经网络跨语言实体链接
本研究探讨了零资源语言的跨语言实体链接问题，利用高资源语言建立了基于字级别神经实体链接模型的枢轴式实体链接框架，实现了跨 54 种语言的零 - shot transfer，并在 9 种低资源语言上进行了实验，相比于基线系统，平均提高了 17
PDF6 years ago
NIPS基于互动回放的机器人导航单次强化学习
通过基于单次环境遍历构建交互世界模型、预训练视觉特征编码器和随机环境增强的方法，提出了一种在移动机器人上学习导航到固定目标并在已知环境中进行零样本迁移的方法。该方法成功应用于真实环境变化下的导航问题，避免了过拟合问题。
PDF7 years ago
从网络数据中学习视觉 N-Grams
本文探讨利用网络数据进行图像识别系统的训练，采用了直观 n-grams 模型来预测图片内容相关短语，同时开发出适用于连接图像和标题、零样本传输等方面的模型。
PDF8 years ago