ACLJul, 2019

基于词向量的一对多类比推理：从新闻文本中预测历时武装冲突的案例

PDF
TL;DR将单词类比任务扩展为一对 X 形式，通过关系发现问题应用于历史武装冲突的数据集上，利用经过训练的英语新闻文本的迭代词嵌入模型作为语义信息源，使用余弦距离的函数阈值来降低假阳性数量，最后发布一个可用于历史武装冲突数据上的一对 X 类比评估的测试集。
发现论文，激发创造
  • 词嵌入中语义关系的时态动态：预测武装冲突参与者的应用

    本文介绍了一种使用词嵌入模型跟踪词对之间语义关系的时间动态的方法，采用增量学习和预测建模，并在乌普萨拉武装冲突数据集上评估了该方法的可行性和效果。

    Jul, 2017

  • 语言模型可以学习类比推理吗？研究训练目标和与人类表现的比较

    通过测试几种学习基本类比推理的方法，研究人员发现模型在少量数据情况下也能学习类比推理，并与人类基准数据集进行比较发现，经过训练后，模型接近人类表现。

    Oct, 2023

  • 解决形态学类比问题：从检索到生成

    本文提出了一个深度学习框架来解决类比检测和解决两个关键问题，并在 morphological analogical proportions 数据集上进行了测试表明优于符号方法。文章总结了之前的研究，并结合了 ANNe 和 AE 嵌入模型。最终得出该模型在绝大多数情况下都优于其他方法，并提供了使用 DL 来处理类比问题的一般指南。

    Mar, 2023

  • 类比的解释：走向理解词嵌入

    本文通过概率定义新的释义来重新诠释 W2V 生成的词向量中的线性行为，证明了线性关系存在，并确定了差错项。

    Jan, 2019

  • 超越词汇的分布式语义学：类比和释义的监督学习

    本篇论文介绍了一种将分布式语义学从单个单词扩展到词对、短语和句子等的方法，通过使用组件词中的成对相似性来比较两个元组，从而实现关系相似性（类比）和组成相似性（释义）之间的转换，并通过监督学习生成组合函数。在衡量单词对之间的关系相似性（SAT 类比和 SemEval 2012 任务 2）和名词修饰短语和单个词之间的组成相似性方面取得了最优结果。

    Oct, 2013

  • 关于词类比测试预测信息内容的研究

    提出了一种方法来以信息量的位数量化类比测试中类比的实际相关性，主要组件是一种软准确度估计器，还提供了具有补偿偏差的熵估计，使用预训练的 GloVe 300-D 向量和两个公共类比测试集获得的实验结果表明，从信息内容的角度来看，接近度提示比类比更相关，因此，使用简单的词嵌入模型预测类比携带约一位信息量，这得到了实验的验证。

    Oct, 2022

  • 大型语言模型的反事实任务证据支持紧急类比推理

    最近的研究证明，大型语言模型能够以零样本的方式解决各种基于文本的类比问题，表明存在一种新兴的类比推理能力。最近的两篇评论对这些结果提出了质疑，引用了所谓的 ' 反事实 ' 任务的证据，其中标准的字母序列被任意改变，以减少与语言模型训练数据中可能存在的材料的相似性。在这里，我们回应这些批评，并澄清了关于我们原始工作中使用的测试材料的一些误解，并提供证据证明语言模型也能够推广到这些新的反事实任务变体。

    Apr, 2024

  • 历时词向量和语义漂移：一项调查

    本文综述了当前关于使用预测型词嵌入模型追踪词汇语义时序变化和语义漂移检测的学术研究现状，并讨论了该领域的挑战和应用前景。

    Jun, 2018

  • 中文形态和语义关系的类比推理

    本文提出了一个基于类比推理的任务，其中包括了词汇知识，建立了一个包含 17813 个问题的大而平衡的数据集，证明了其可靠性并用于评估中文词嵌入。

    May, 2018

  • ANALOGICAL - 大语言模型长文本类比的新基准

    提出了一个新的基准测试，名为 ANALOGICAL，在长文本的类比上对大型语言模型（LLMs）进行内在评估。在使用 13 个数据集和 3 种不同距离度量进行评估的过程中，发现当上升类比分类学时，LLMs 越来越难以识别类比。

    May, 2023