semantic tasks | BriefGPT - AI 论文速递

关键词semantic tasks

搜索结果 - 12

利用知识蒸馏在多个遥感数据集上进行部分多任务学习
本文旨在提出一种基于知识蒸馏的部分多任务学习方法，以克服在缺乏所有任务标注的情况下进行全面多任务学习的次优性，并通过在航空图像中进行的对象检测和语义分割等语义任务的实验验证了该方法的有效性。
PDFa month ago
基于形态学的位置编码研究
本研究首次探讨了不同形态结构复杂性的语言中，预训练语言模型（PLMs）中位置编码的重要性如何变化，并囊括了 23 种形态多样的语言和 5 种不同的下游任务。通过选择句法任务和语义任务，我们从各自语言的 BERT 模型中进行研究，实证发现位置
PDF3 months ago
EMNLP发现用于语言无关的多语言表示的低秩子空间
在这项工作中，我们提出了一种新的方法，通过从多语言嵌入空间中投影掉语言特定因素，以完全利用语义信息，并消除语言身份信号，从而在语义任务中取得更好的结果。
PDF6 months ago
EMNLP一对所有 & 所有对一：使用模型平均绕过超参数调整进行跨语言迁移
基于不同运行模型的累积逐渐平均，提升零样本跨语言转移（ZS-XLT）性能，与目标语言验证性能基于模型选择有密切相关。
PDF9 months ago
ACL最佳多语言文件嵌入是否只是基于句子嵌入？
本研究系统地比较了使用 LASER、LaBSE 和 Sentence BERT 预训练的多语言模型从句子中生成文档级表示的方法，证明了对于多语言任务来说，通常使用句子嵌入的巧妙组合要优于将整个文档编码为单个单元，并且说明了虽然简单的句子平均
PDFa year ago
Breaking Character: MRLs 是否真的只需要使用子词？
对于语言中包含丰富词形的复杂语言，使用预训练字符序列的 BERT-style 掩码语言模型进行训练和推理而不是基于子单元的方式可能会得到更好的表现。但是，对于语义任务，基于子单元的 PLM 表现更好，这证实了基于子单元的分词作为许多语言的合
PDF2 years ago
ACL一种基于簇的方法用于改善上下文嵌入空间的等向性
本文提出了一种基于局部聚类的方法来应对上下文嵌入空间中的退化问题，实验证明该方法可以在多个任务上缓解该问题。
PDF3 years ago
三代分布语义模型的比较评估与分析
本研究旨在对传统计数模型、预测模型与现代上下文向量模型（由 Transformer 神经语言模型生成）进行遵循语境学习的分布式语义模型（DSM）评估，结果显示在大多数上下文之外的语义任务和数据集中，静态 DSM 优于上下文化代表性，并揭示了
PDF3 years ago
EMNLP从上下文化单词表示中无监督地提取句法信息
本文讲述了如何通过自动生成语义不同但结果相似的句子组集来学习一种转换，以去除词法语义但保留结构信息，并证明这种方法在结构聚类方面的效果优于词汇语义聚类方法，最终在少样本解析任务中优于原始上下文化语言表示。
PDF4 years ago
EMNLP语义结构的句法支架
本文介绍了句法脚手架的方法，将句法信息应用于语义任务。通过多任务目标训练期间的语料库，避免无谓的运行时句法处理操作。作者在 PropBank 语义、框架语义和共指解析任务上均取得了竞争力的结果，改进了现有的基线模型。
PDF6 years ago
ACL低资源环境下的论证挖掘多任务学习
通过研究多任务学习 (MTL) 在与论证挖掘 (AM) 相关的自然语言处理问题中，尤其是论证组件识别方面是否可以提高性能，发现在主任务训练数据较少的情况下，MTL 表现得特别好（比单任务学习更好），这在 AM 中是一个常见的情况。我们的研究
PDF6 years ago
基于深度学习语义任务的行人检测
通过提出一种新的深层模型，从多个数据源中学习高级特征和多个任务，这项工作联合优化了行人检测及语义任务，包括人行属性，场景属性等，并设计了一个多任务函数来协调任务和减少数据集之间的差异，通过大量验证，证明了该方法在 Caltech 和 ETH
PDF10 years ago