COLINGSep, 2018

评估句向量表示中的组成

PDF
TL;DR文章介绍了一种可以精确和控制地针对句向量中的组合含义信息的方法，利用一个专门的句子生成系统，创建遵循特定句法、语义和词汇约束条件的带注释的大型句子集。实验表明，这种方法能够从多种现有的句子表示模型中提取有用的信息，有助于理解这些系统对句子信息的捕获能力。
neural sentence composition modelssyntactic constraintssemantic constraintslexical constraintscontrolled tasks
发现论文，激发创造
  • 评估句子嵌入中的组合性

    本文介绍了一个新的自然语言推理任务数据集，旨在解决人工智能中的句子组成意思的问题，使用深度神经网络学习语义向量表示法，得出发现表明 Inference 等现有句向量算法性能较差，但使用本文提供的数据集进行训练，可提高测试性能和提高人工智能系统的表现水平。

    Feb, 2018

  • 视觉语境下的语义组合模型

    本文探讨了视觉图像和语言语义的组合结构问题，并提出了一些方法，如 WinogroundVQA, Syntactic Neural Module Distillation, Causal Tracing for Image Captioning Models,Syntactic MeanPool 和 Cross-modal Attention Congruence Regularization，以提高这种组合结构的能力。

    May, 2023

  • 句子嵌入的构成对比学习

    通过最大化同一文本最小扰动嵌入之间的对齐，以及在更广泛的语料库中鼓励嵌入的均匀分布，基于对比学习的各种方法已被提出来从未标记的数据中学习文本表示。不同的是，我们提出最大化文本和其短语成分组成之间的对齐，考虑了此目标的多种实现方法，并详细阐述了每种情况下对表示的影响。语义文本相似性任务上的实验结果显示，与最先进的方法相当的基线改进。此外，本工作是第一个这样做而不需要额外网络参数或辅助训练目标的工作。

    Jul, 2023

  • 针对深度组合模型的语法感知多义词嵌入

    本研究详细介绍了一个基于丰富的单词嵌入的组成分布式框架，旨在促进句子中单词之间的交互，并使用环境中的句法信息来增强向量。研究结果表明，该框架在 MSRPar 任务上取得了具有代表性的结果。

    Aug, 2015

  • 在张量组合设置中评估神经词表示

    在多项组合任务中，我们提供一项神经词表示和基于共现计数的传统向量空间之间的比较研究。在三个不同的语义空间中，我们实现了七个基于张量的组合模型，并在涉及动词消歧和句子相似性的任务中进行测试。在大规模任务中，神经词嵌入表现优越，表现稳定。

    Aug, 2014

  • 复述辅助的组合性模型

    本文提出了用自动提取的近义例子替代手工注释进行组合模型训练的方法，同时开发了一种上下文感知的短语组成能力评分模型，实验结果表明这些方法可以用于提高机器翻译系统的翻译质量。

    Jan, 2018

  • 通过自动摘要探索句向量空间

    利用神经网络对单词进行矢量表示后，本文探讨了在自动文摘的语境下，矢量表示的句子向量的特性，包括其与文档向量之间的余弦相似度与句子重要性的强关联、向量语义可用于识别和纠正选择的句子和文档之间的差距以及有效摘要所需的特定维度的相关性等。同时，本文还在多种句子嵌入方法之间进行了特征比较及分析，这些洞见都可应用于远远超出自动文摘领域的句子嵌入应用。

    Oct, 2018

  • 通过组合操作实现可解释的句子表示学习，连接连续和离散空间

    本文提出了一种名为 InterSent 的语句嵌入方法，支持语句的组合操作，通过优化运算网络和瓶颈编解码模型，该方法在四项文本生成任务中显著提高了语句嵌入的可解释性和维持了传统语义相似性任务上的强大表现。

    May, 2023

  • 在 NLP 中可视化和理解神经模型

    在这篇论文中，我们描述了四种策略，用于可视化 NLP 神经模型中的组合性。我们介绍了三种简单的方法以可视化单元对最终合成表示的影响，并在情感分析方面测试了这些方法，发现 LSTMs 的表现优于简单的递归神经网络。

    Jun, 2015

  • 使用组成性 n-Gram 特征进行句子嵌入的无监督学习

    本文介绍了一种简单但高效的无监督学习方法，用于训练分布式表示的句子嵌入。该方法在大多数基准任务中性能优于最先进的无监督模型，突显了所产生的通用句子嵌入的健壮性。

    Mar, 2017