习惯用语检测的高效样本方法

May, 2022

Sample Efficient Approaches for Idiomaticity Detection

Dylan Phelps, Xuan-Rui Fan, Edward Gow-Smith, Harish Tayyar Madabushi, Carolina Scarton...

TL;DR本篇研究旨在探究识别成语化多词表达的高效方法，通过 Pattern Exploit Training 和 BERTRAM 两种少样本分类方法，以及探索不在训练数据中的多词表达的识别，提高英语的表现，但对葡萄牙语和加利西亚语的效果较差。

Abstract

Deep neural models, in particular Transformer-based pre-trained language models, require a significant amount of data to train. This need for data tends to lead to problems when dealing with idiomatic multiword expressions (MWEs), which are inherently less frequent in natural text. As

transformer-based pre-trained language models idiomatic multiword expressions pattern exploit training bertram sample efficient methods

发现论文，激发创造

预训练语言模型中习语的探索数据集和方法

本文介绍了一个包含英语和葡萄牙语的细粒度含义数据集，用于测试语言模型对习语使用的检测能力和生成含有习语句子的表现效果，并且发现 fine-tuning 是学习包含 MWE 的句子表示的一种有效的样本高效方法。

Sep, 2021

HiJoNLP 参加 SemEval-2022 任务 2: 使用多语言预训练语言模型检测多词表达的成语性

使用多语言预训练语言模型的上下文表示仅探测习语性的方法，实验发现模型规模越大在习语性探测上越有效。然而，使用较高的模型层不一定能够保证更好的性能。在多语言场景下，不同语言的融合不一致，资源丰富的语言比其他语言更具有优势。

May, 2022

侧抑制和领域适应在多语言多词表达式识别中的应用

为在多语境环境下准确识别多词表达式 (MWEs)，在所有第 1.2 版 PARSEME 语料库中可用的 14 种语言上对 mBERT 模型进行训练，并将侧向抑制和语言对抗性训练纳入方法中，以创建语言无关的嵌入并提高其识别多词表达式的能力，该方法在全球 MWE 识别中比 PARSEME 1.2 竞赛的最佳系统 MTLB-STRUCT 在 11 种语言中更好地实现，对于未见 MWE 识别中的 12 种语言，平均所有语言，我们的最佳方法在全球 MWE 识别上优于 MTLB-STRUCT 系统 1.23％，在未见全球 MWE 识别上优于 MTLB-STRUCT 系统 4.73％。

Jun, 2023

使用 BERT (s) 检测多词表达式

本文探索使用最先进的神经转换器来检测多词表达的任务，并在 SemEval-2016 Task 10 数据集中实验评估了几个 Transformer 模型，结果表明 Transformer 模型优于基于长短期记忆（LSTM）的以前的神经模型。

Aug, 2022

神经机器翻译中注意多词表达

探究了神经机器翻译 (NMT) 在英文 - 拉脱维亚语和英文 - 捷克语 NMT 系统中分配注意力和改善包含多词表达式 (MWE) 的句子的自动翻译，使用两种改进策略：自动提取的 MWE 候选句对和包含提取的 MWE 候选句的完整句子，两种方法均取得了良好的结果，其中第一种方法表现最佳，自动评估结果提高了 0.99 BLEU 点。同时还提供了用于 MWE 提取和对齐检查的开源软件和工具。

Oct, 2017

使用基于定义表示学习方法检测临床术语中的习语性多词表达

本研究利用基于定义的语义模型来检测临床术语中的习语和半习语多词表达，开发了一种有效的工具来评估生物医学习语多词表达的习语性，结果表明 BioLORD 模型具有较强的识别习语多词表达的能力，有助于本体译者聚焦于更具挑战性的 MWEs。

May, 2023

HYU 在 SemEval-2022 任务 2 中：在不同层次的语境化考虑下有效的习惯用语检测

本研究提出了一个多层次的统一框架，用于在不同层次上考虑语境作用的方方面面，以更好地识别多词表达式的习语性。通过广泛的实验，我们证明了我们的方法基于目标 MWE 的内部和句间语境是有效的，在提高相关模型性能方面具有显著作用。同时，我们详细分享了在 SemEval-2022 任务 2 上的经验教训，以期对同类任务未来的工作有所裨益。

Jun, 2022

评估语言模型中的语言推广能力：面向巴西葡萄牙语的数据集

本研究提出了一种评估方法，针对用于巴西葡萄牙文的语言模型，通过固定的语言格式，考察语言信息的编码方式，评估不同的语言模型在处理语法结构和多词表达方面的泛化能力，解决了语言模型黑盒且缺乏可解释性的问题。

May, 2023

多词语无监督释义

提出了一种用于无监督多词表达式改写的方法，通过使用单语料库和预训练语言模型（无需微调），不需要使用任何外部资源，例如词典，并在 SemEval 2022 成语语义文本相似度任务上表现优于所有无监督系统并与监督系统相媲美。

Jun, 2023

基于 Transformer 的花卉和植物名称多词表达式检测

该研究探讨了使用最先进的神经转换器检测花卉和植物名称多词表达的任务，并在植物百科全书数据集上评估了不同的转换器模型，实证表明转换器模型优于基于 LSTM 的先前神经模型。

Sep, 2022