Oct, 2023

Rosetta Stone 在 KSAA-RD 共享任务中的应用：从语言建模到词定义对齐

PDF
TL;DR以阿拉伯逆向词典为例，通过阿拉伯文或英文定义为输入，使用模型预测词嵌入并通过取平均值得到最终的表示，另外将英文定义翻译为阿拉伯文并应用于模型也是有效的解决方法。
reverse dictionaryarabicword representationberttranslation
发现论文，激发创造
  • 反向词典和定义建模的统一模型

    本研究提出了一种用于检索词汇和生成定义的双向神经词典，通过共享层将词或定义映射到相同的表示空间，以多任务方式生成另一种形式，通过嵌入处理未知的单词，结果显示多个目标有助于学习，达到了有前景的自动化得分，并得到了实践验证和人工评估者的认可。

    May, 2022

  • WordAlchemy: 基于 Transformer 的逆向字典

    本文提出了一种基于 mT5 的 transformer 深度学习方法，采用翻译语言建模技术而非常用的掩码语言建模技术，实现了支持印度语言的开源跨语言反向字典系统。

    Apr, 2022

  • BERT 用于单语和跨语言逆词典

    本文研究怎样使用 BERT 模型来完成 Reverse Dictionary 的任务，并结合 Multilingual BERT 模型实现多语言反向词典转换，同时提出了一种有效的方法来解决 BERT 模型生成词的问题。该模型在没有平行语料库的情况下，也能够实现出色的跨语言反向词典性能。

    Sep, 2020

  • 在 Semeval-2022 任务 1 中的 1Cademy：通过多语言、多任务和语言无关技巧，研究反向词典任务的有效性

    本文介绍了我们针对 SemEval2022 词典义项匹配任务所设计的系统，主要集中在比赛的 Reverse Dictionary Track 上，涉及到多语言义项到重构向量的映射，主要是将输入句子转换为三类不同类型的嵌入。我们提出了几个实验，包括神经网络单元、通用多语言和多任务结构，以及语言无关技巧。最终我们的 Elmobased 单语言模型表现最佳，并且多任务、多语言变体也表现出竞争力。

    Jun, 2022

  • SemEval2022 任务 1 中的 IRB-NLP：探索词语和它们的语义表示之间的关系

    本篇论文研究了词与其描述或嵌入之间的关系，探索了定义建模和反向字典两个学习任务之间的关系，旨在探讨词语及其语义表示之间的关系，并在 CODWOE 数据集上展示了定义建模和反向字典任务系统的设计及实验结果。

    May, 2022

  • 学习表示双语词典

    该研究提出了一种神经嵌入模型，利用双语词典将文字定义映射到双语目标词汇，探索不同的句子编码技术以及采用多任务学习和联合学习等关键学习策略来增强学习过程，实验结果表明，该模型在跨语言反向字典检索任务和双语释义识别问题上表现优异，并有效地解决了双语释义识别问题。

    Aug, 2018

  • 多通道逆向字典模型

    本研究提出了一种基于多通道模型的反向词典方法，可有效处理高度变量的查询和低频率的目标词，并在英文和中文数据集上实现了最优表现。

    Dec, 2019

  • 创建反向双语词典

    本文提出从已有的包含英语的双语词典中创建新的反向双语词典的算法，利用英语 Wordnet 中单词 - 概念对之间的相似性来生成反向词典条目，并且只要其中的一种语言具有 Wordnet 类型的词汇学本体论，这些算法就适用于任何双语词典。

    Aug, 2022

  • 语言模型中的概念表示分析：借助逆向词典探针

    基于逆向字典任务，探索和提升大型语言模型的推理能力，并预测其在一般推理性能上的表现。

    Feb, 2024

  • Sõnajaht: 定义嵌入和语义搜索用于反向词典创建

    提出了一种基于信息检索的反向字典系统，使用现代预训练语言模型和近似最近邻搜索算法，应用于现有的爱沙尼亚语词汇资源，目的是通过引入语义搜索来增强和丰富该资源，并提供跨语言的反向字典功能。评估结果表明，在单语言设置下，该基于信息检索的语义搜索方法是可行的，其在跨语言设置下通过使用无标签评估方法产生了中位排名为 2 的结果，其中包括以爱沙尼亚语为训练数据的模型在特定任务中表现出更好的性能。

    Apr, 2024