EMNLPNov, 2021

理解术语：结合提取和生成进行定义建模

PDF
TL;DR本文提出了一种将提取和生成相结合的术语定义建模框架，通过从网络中提取自我和相关的定义信息，然后结合这些信息生成最终定义。实验表明，我们的方法可以为术语生成高质量的定义，BLEU 得分从 8.76 到 22.66，人工标注得分从 2.34 到 4.04，且优于现有的最先进的模型。
jargondefinition modelingextractiongenerationbleu score
发现论文，激发创造
  • 协助语言学习者：对比提示学习实现的自动跨语言定义生成

    该研究提出了一个新的任务 —— 跨语言定义生成（TLDG），并发现 fine-tuning 多语言机器翻译模型时方法被显著优化，并得到了更高质量的跨语言定义生成。

    Jun, 2023

  • 增强跨学科交流的个性化行话识别

    科学术语识别中，熟悉度指标的使用存在问题。本研究通过收集 11000 多个计算机科学研究人员对术语的熟悉度进行注释分析，发现不同研究人员对术语的熟悉度和信息需求存在巨大差异。研究探讨了个人、子领域和领域知识等特征，以预测个体对术语的熟悉度。结果表明，以个人出版物为基础的提示方法达到了最高的准确率，而零样本提示方法提供了强有力的基准。本研究提供了将个人数据整合到科学术语识别中的特征和方法的洞见。

    Nov, 2023

  • MedJEx：一种医学术语提取模型，采用维基百科的超链接跨度和上下文掩码语言模型分数

    本文介绍了一种新的自然语言处理应用，用于从电子病历注释中识别医学术语中的专业词汇，提出了一种新的医学术语提取模型 $MedjEx$，应用了辅助的 Wikipedia 超链接跨度数据集进行训练，并使用该模型提高了生物医学命名实体识别基准数据集的表现。

    Oct, 2022

  • 领域术语整合到机器翻译：利用大型语言模型

    本文介绍了我们在德英（DE-EN）、英捷（EN-CS）和中英（ZH-EN）语言对上提交给 WMT 2023 术语共享任务的方法，通过使用大型语言模型（LLMs）生成二语合成数据并将预批准术语整合入机器翻译（MT）中，成功地提高了术语的使用率。

    Oct, 2023

  • 基于生成式 Transformer 的对比三元抽取

    本文介绍了一种使用对比训练和生成式变换器的三元组抽取模型，采用单共享变换器模块，使用新颖的三元组对比训练目标生成准确结果，并提出了批动态注意遮盖和三元组校准机制来进一步提高模型性能，在实验结果中，我们的方法与基线相比表现更优。

    Sep, 2020

  • 从术语定义中挖掘常识知识

    本文研究使用机器学习方法从词典术语定义中挖掘常识知识三元组，并对现有的三元组评分模型进行了比较，结果表明词项定义包含一些有效和新颖的常识知识三元组，同时也揭示了使用现有三元组评分模型面临的一些挑战。

    Feb, 2021

  • 利用目标词元注释促进术语翻译

    该研究提出了一种源数据增强的机器翻译系统，用于术语集成，实验表明该方法在术语翻译时具有实用性和较高的准确性。

    Jan, 2021

  • 有条件的词汇定义生成器

    本文探讨了最近引入的定义建模技术，在模塑字典定义的基础上评估不同分布向量表示的词语，分析了该模型中的词语歧义性问题，并提出了一个潜变量建模和软注意机制的解决方案，我们对该模型进行了定量和定性评估和分析，结果表明考虑到歧义性和多义性会提高性能。

    Jun, 2018

  • 高度技术领域的非监督术语提取

    本文介绍了一个商业知识发现平台的术语提取子系统，采用全面且无监督注释器来跨越高度技术领域。该注释器通过将子词分词的新颖形态信号与使用通用领域预训练句子编码器计算的术语和主题以及内部术语相似度度量相结合，提取术语。通过在大型未标记语料库上运行 UA 生成的训练数据进行变压器模型的微调或预训练，使得此设置能够提高预测性能，同时减少 CPU 和 GPU 的推理延迟。该注释器为所有未标注语料库提供了非常有竞争力的基线。

    Oct, 2022

  • 大型语言模型中的词汇定义

    我们通过对比传统词典的定义和 ChatGPT 的生成定义来探索传统词典与计算机生成定义之间的相似程度，结果显示：与模型生成的定义相比，不同传统词典的定义在表面形式上更相似；ChatGPT 的定义非常准确，与传统词典相媲美；而 ChatGPT 生成的嵌入定义在低频词上的准确性也比 GloVe 和 FastText 词嵌入模型要好。

    Nov, 2023