Jul, 2016

全球神经 CCG 解析与最优性保证

PDF
TL;DR本文引入了第一个具有解码最优性保证的全局递归神经语法分析模型，通过直接搜索所有可能子树的空间来支持全局特征，并使用新的目标函数对全局模型进行训练，实现样本探索的最小化；应用于 CCG 分析，在保证解析最优的情况下，在目标库中 99.9% 句子中找到最优解析，并平均发现 190 个子树。
recursive neural parsingglobal featuresefficient a* parserccg parsingoptimality guarantees
发现论文，激发创造
  • 全局贪心依存句法分析

    本文提出了一种能够同时进行全局特征提取和线性时间推理的依存句法分析模型，支持投影和非投影句子的解析，经检验表现良好。

    Nov, 2019

  • 使用 Supertag 和依存因子模型的 A* CCG 解析

    提出了一种新的 A * CCG 解析模型，通过在双向 LSTM 上定义 CCG 类别和语法依存关系的因子，将树的概率分解成因子。我们的模型通过依赖关系显式地建模句子结构，并允许所有概率的预计算，因此运行效率非常高。我们的模型在英语和日语 CCG 解析方面取得了最先进的效果。

    Apr, 2017

  • 针对文本到 SQL 解析的数据库结构全局推理

    本研究针对语义解析器在零样本学习中难以正确选择新数据库常数集的问题，提出一种全局推理数据库常数集的解析器，采用图神经网络的消息传递机制，考虑问题的情境信息，软选择一部分数据库常数集，并通过训练模型根据数据库常数与问题单词的全局匹配度对解析结果排序。在面向包含复杂数据库的零样本语义解析数据集 Spider 中，我们将该方法应用于当前最先进模型，将准确率从 39.4％提高到 47.4％。

    Aug, 2019

  • 神经成分句法分析的两种本地化模型

    本文研究了两种概念简单的本地神经模型，在成分分析中取得了高度竞争的结果，分别实现了 PTB 和 CTB5.1 中的标记支架 F1 得分为 92.4％和 87.3％。

    Aug, 2018

  • 生成神经语法分析的有效推论

    通过改进候选选择和使用粗略的修剪功能，我们描述了一种可行的搜索过程，及其用于 Choe 和 Charniak（2016）模型的推理过程在 Penn Treebank 的 23 节上能够获得 92.56 F1，超过以前的最先进结果。

    Jul, 2017

  • 神经成分句法分析器的跨域泛化

    使用神经解析器和结构化输出预测来实现在零 - shot 设置下对其他领域进行泛化的研究，并在英语和汉语语料库上获得了最新的解析结果。

    Jul, 2019

  • 自动生成高质量 CCGbanks，用于解析领域自适应

    本文提出了一种基于依存树的语料库自动生成的领域自适应方法，简单易用且性能显著，适用于最先进的解析器，通过对生物医学文本、问题句子、语音对话和数学问题的实验数据验证，性能提高了 6.3% 到 8.3%。

    Jun, 2019

  • 基于最小特征集的转移依存句法分析的快速准确解码和全局训练

    以动态规划为框架，使用最小特征集和基于双向 LSTM 的方法进行转移依存分析，通过集成实现最佳未标注附加度分数。

    Aug, 2017

  • 使用 CCG 分析和大型语言模型建模大脑中的结构构建

    通过使用组合范畴语法（CCG）作为语法模型，研究人员发现可以更好地理解自然环境中语言理解的行为和神经相关性。使用 fMRI 收集参与者听故事期间的神经信号，研究发现 CCG 在解释神经信号方面的有效性优于上下文无关文法，并可以从可选附加语方面解释。

    Oct, 2022

  • 基于图形的无递归语义解析

    本文提出了一种新的基于图的方法来进行语义解析，解决了文献中观察到的两个问题：(1) seq2seq 模型无法完成组合泛化任务；(2) 使用短语结构解析器的先前工作无法涵盖树库中观察到的所有语义解析。我们证明了两个优化算法的正确性，用基于约束平滑和条件渐变的方法近似解决这些推断问题。实验证明，我们的方法在 Geoquery、Scan 和 Clevr 上都具有最先进的效果，包括在测试组合泛化的过程中。

    Feb, 2023