Apr, 2024

Sõnajaht: 定义嵌入和语义搜索用于反向词典创建

PDF
TL;DR提出了一种基于信息检索的反向字典系统，使用现代预训练语言模型和近似最近邻搜索算法，应用于现有的爱沙尼亚语词汇资源，目的是通过引入语义搜索来增强和丰富该资源，并提供跨语言的反向字典功能。评估结果表明，在单语言设置下，该基于信息检索的语义搜索方法是可行的，其在跨语言设置下通过使用无标签评估方法产生了中位排名为 2 的结果，其中包括以爱沙尼亚语为训练数据的模型在特定任务中表现出更好的性能。
information retrievalreverse dictionarylanguage modelssemantic searchcross-lingual retrieval
发现论文，激发创造
  • 学习表示双语词典

    该研究提出了一种神经嵌入模型，利用双语词典将文字定义映射到双语目标词汇，探索不同的句子编码技术以及采用多任务学习和联合学习等关键学习策略来增强学习过程，实验结果表明，该模型在跨语言反向字典检索任务和双语释义识别问题上表现优异，并有效地解决了双语释义识别问题。

    Aug, 2018

  • 在 Semeval-2022 任务 1 中的 1Cademy：通过多语言、多任务和语言无关技巧，研究反向词典任务的有效性

    本文介绍了我们针对 SemEval2022 词典义项匹配任务所设计的系统，主要集中在比赛的 Reverse Dictionary Track 上，涉及到多语言义项到重构向量的映射，主要是将输入句子转换为三类不同类型的嵌入。我们提出了几个实验，包括神经网络单元、通用多语言和多任务结构，以及语言无关技巧。最终我们的 Elmobased 单语言模型表现最佳，并且多任务、多语言变体也表现出竞争力。

    Jun, 2022

  • 反向词典和定义建模的统一模型

    本研究提出了一种用于检索词汇和生成定义的双向神经词典，通过共享层将词或定义映射到相同的表示空间，以多任务方式生成另一种形式，通过嵌入处理未知的单词，结果显示多个目标有助于学习，达到了有前景的自动化得分，并得到了实践验证和人工评估者的认可。

    May, 2022

  • 用词典嵌入学习理解短语

    使用字典中的定义作为桥梁，将定义（短语）映射到单词的词汇表达式上，利用这种方式进行训练的神经嵌入模型能够有效地解决短语和句子的语义表示问题，并具有广泛应用前景。

    Apr, 2015

  • SemEval2022 任务 1 中的 IRB-NLP：探索词语和它们的语义表示之间的关系

    本篇论文研究了词与其描述或嵌入之间的关系，探索了定义建模和反向字典两个学习任务之间的关系，旨在探讨词语及其语义表示之间的关系，并在 CODWOE 数据集上展示了定义建模和反向字典任务系统的设计及实验结果。

    May, 2022

  • 以视觉为中介语：学习多语种未转写语音的语义嵌入

    本文讨论了在自然图像和描述这些图像内容的语音波形中学习神经网络嵌入的方法。我们展示了这些技术可成功应用于英语和印地语等多种语言，通过在两种语言上同时进行训练，可以提高模型的性能，并且这些模型可以执行语义跨语言语音检索。

    Apr, 2018

  • 历时词向量和语义漂移：一项调查

    本文综述了当前关于使用预测型词嵌入模型追踪词汇语义时序变化和语义漂移检测的学术研究现状，并讨论了该领域的挑战和应用前景。

    Jun, 2018

  • 利用词向量追踪俄语文化历时语义变化：测试集和基准

    介绍了手动注释的测试集，用于跟踪俄语中的历时语义转变，并通过分布式词嵌入模型来自动检测具有强烈或微妙社会和文化变化的名词和形容词词义，提供了实体间语义演变检测的算法和比分。

    May, 2019

  • Rosetta Stone 在 KSAA-RD 共享任务中的应用：从语言建模到词定义对齐

    以阿拉伯逆向词典为例，通过阿拉伯文或英文定义为输入，使用模型预测词嵌入并通过取平均值得到最终的表示，另外将英文定义翻译为阿拉伯文并应用于模型也是有效的解决方法。

    Oct, 2023

  • 多词术语嵌入改进词汇产品检索

    H1 嵌入模型在电子商务平台的产品描述离线术语索引中，通过整合产品检索的词汇方法和基于语义嵌入的方法的优势，提出了一种构建语义丰富术语词汇的方法，能够作为单个标记来处理多词产品术语，提高系统的精度而不影响召回率，此模型在 WANDS 公共数据集上的混合搜索系统得分为 mAP@12 = 56.1% 和 R@1k = 86.6%，超过其他最先进的模型。

    Jun, 2024