Apr, 2022

WordAlchemy: 基于 Transformer 的逆向字典

PDF
TL;DR本文提出了一种基于 mT5 的 transformer 深度学习方法，采用翻译语言建模技术而非常用的掩码语言建模技术，实现了支持印度语言的开源跨语言反向字典系统。
reverse dictionarycross-lingualindian languagestransformer-baseddeep learning
发现论文，激发创造
  • Rosetta Stone 在 KSAA-RD 共享任务中的应用：从语言建模到词定义对齐

    以阿拉伯逆向词典为例，通过阿拉伯文或英文定义为输入，使用模型预测词嵌入并通过取平均值得到最终的表示，另外将英文定义翻译为阿拉伯文并应用于模型也是有效的解决方法。

    Oct, 2023

  • 面向基于 Transformer 的逆向词典模型的定义质量评估

    比较变体 transformers 模型在解决逆向词典任务中的表现，并探索其在严肃游戏《字典游戏》中的应用。

    Nov, 2023

  • 在 Semeval-2022 任务 1 中的 1Cademy：通过多语言、多任务和语言无关技巧，研究反向词典任务的有效性

    本文介绍了我们针对 SemEval2022 词典义项匹配任务所设计的系统，主要集中在比赛的 Reverse Dictionary Track 上，涉及到多语言义项到重构向量的映射，主要是将输入句子转换为三类不同类型的嵌入。我们提出了几个实验，包括神经网络单元、通用多语言和多任务结构，以及语言无关技巧。最终我们的 Elmobased 单语言模型表现最佳，并且多任务、多语言变体也表现出竞争力。

    Jun, 2022

  • 多通道逆向字典模型

    本研究提出了一种基于多通道模型的反向词典方法，可有效处理高度变量的查询和低频率的目标词，并在英文和中文数据集上实现了最优表现。

    Dec, 2019

  • BERT 用于单语和跨语言逆词典

    本文研究怎样使用 BERT 模型来完成 Reverse Dictionary 的任务，并结合 Multilingual BERT 模型实现多语言反向词典转换，同时提出了一种有效的方法来解决 BERT 模型生成词的问题。该模型在没有平行语料库的情况下，也能够实现出色的跨语言反向词典性能。

    Sep, 2020

  • 创建反向双语词典

    本文提出从已有的包含英语的双语词典中创建新的反向双语词典的算法，利用英语 Wordnet 中单词 - 概念对之间的相似性来生成反向词典条目，并且只要其中的一种语言具有 Wordnet 类型的词汇学本体论，这些算法就适用于任何双语词典。

    Aug, 2022

  • 反向词典和定义建模的统一模型

    本研究提出了一种用于检索词汇和生成定义的双向神经词典，通过共享层将词或定义映射到相同的表示空间，以多任务方式生成另一种形式，通过嵌入处理未知的单词，结果显示多个目标有助于学习，达到了有前景的自动化得分，并得到了实践验证和人工评估者的认可。

    May, 2022

  • 基于记忆增强查找字典的语言建模自动语音识别

    该研究提出了一种新的内存增强的查找字典的 Transformer 语言模型，并证明了它在长尾预测问题上的有效性，提高了自动语音识别解码效率，特别是对于长尾词的识别表现更佳。

    Dec, 2022

  • MATra：一种印度文字跨语言注意力音译系统

    本文展示了一种基于 transformer 网络结构并在其基础上做出改进的多语言模型，可用于跨越英语、印地语、孟加拉语、卡纳达语和泰米尔语的任意一对语言之间进行 Transliteration，同时在精度方面显著优于所有现有模型，在 Top-1 精度得分方面高达 80.7％，比最好的结果提高了 29.5％，并在语音准确性方面达到了 93.5％。

    Aug, 2022

  • 基于词语定义的反向词典实现 —— 基于节点图架构

    本文提出了一种基于图的反向词典建立方法，利用单词定义来计算相似度，解决了 “Tip-of-the-Tongue” 问题，并与 Onelook 反向词典和 word2vec 方法进行了比较，证明了其表现更好，达到了新的表现基准。

    May, 2016