Jul, 2023

通用分解语义解析的整体性探索：架构、数据增强和 LLM 范式

PDF
TL;DR本文综合探讨了通用分解语义（UDS）解析，并引入了级联模型，将复杂的解析任务分解为语义上适当的子任务。我们的方法在优化了架构的同时，超越了先前的模型，并显著减少了推理时间。我们还结合了句法信息，进一步优化了架构。此外，我们还探索了不同的数据增强方法，进一步改进了 UDS 解析。最后，我们进行实验来研究 ChatGPT 在处理 UDS 任务方面的效果，发现它在属性解析方面表现出色，但在关系解析方面存在困难，而使用 ChatGPT 进行数据增强效果不佳。我们的代码可在此链接找到。
universal decompositional semantic parsingcascade modelsyntactic informationdata augmentationchatgpt
发现论文，激发创造
  • 通用分解语义解析

    介绍一种用于自然语言处理的跨识别模型，能够将自然语言转化为通用分解语义表现形式（UDS）的图结构，并将其注释为分解语义属性分数，同时实现了属性预测。通过分析属性预测错误，发现模型捕捉到属性组之间的自然关系。

    Oct, 2019

  • 联合通用句法语义分析

    本研究探讨了多种模型构型，借助通用分解语义数据（UDS）集中丰富的句法和语义注释，联合解析通用依赖和 UDS，以获得两种形式主义的最新结果，同时分析了句法和语义联合模型的行为。我们还研究了联合建模在多语言环境下的普适性，并发现了 8 种语言中相似的趋势。

    Apr, 2021

  • 跨语义表示的多任务解析

    本文针对语义解析的性能进行改进，使用多任务学习方法，将 UCCA 解析作为测试案例，辅助任务包括 AMR 解析、SDP 解析和 Universal Dependencies 解析。实验表明，多任务学习显著提高了 UCCA 解析的性能。

    May, 2018

  • 通用语义解析

    UDepLambda 是一个语义接口，它将自然语言映射到逻辑形式，可以处理依存图，并在自然语言理解中表现出色，对于多语言问题回答有很好的性能。

    Feb, 2017

  • 语义依存分析的深度多任务学习

    本文介绍了一种基于深度学习的语义依存图形式分析系统，该系统采用效率高且几乎拓扑结构简单的推理方法，通过组合双向 - LSTM 和多层感知机，能够在不使用手工特征或语法的情况下显著提高语义依存分析的技术水平。作者还对多任务学习策略进行了研究，并获得了新的技术成果。

    Apr, 2017

  • 语义解析的深度体系结构

    本文介绍了一种新颖的深度学习架构，通过将两个语言语义的神经模型相结合，提供了一个语义分析系统，无需解析即可从自然语言语句和问题中生成本体库特定的查询，使其特别适用于语法错误或句法非典型的文本，例如 Twitter，也允许开发受资源限制的语言的语义解析器。

    Apr, 2014

  • 通过双重分解将生成式和判别式方法相结合用于无监督依存句法分析

    本文提出一种新的学习策略，该策略基于双重分解方法，联合学习生成模型和判别模型，有效提高了它们的学习结果，并在 UD 树库上取得了 30 种语言的最新成果。

    Aug, 2017

  • 无需训练的通用依存关系分析

    提出了 UDP，这是一种基于 PageRank 算法的无训练的解析器，可用作 Universal Dependencies 的跨语言解析的基准，具有鲁棒性和很少的参数。

    Jan, 2017

  • 深度上下文化词向量、集成和树库连接：迈向更好的 UD 句法分析

    本文描述了我们的系统（HIT-SCIR），该系统提交给 CoNLL 2018 共享任务，涉及从原始文本到通用依赖的多语言解析。我们基于斯坦福的获胜系统进行提交和进行了两个有效的扩展：1）将深度上下文化词嵌入到词性标记器和解析器中；2）集合使用不同初始化的解析器进行训练。我们还探索了不同的合并树库的方法以进行进一步的改进。开发数据上的实验结果显示了我们方法的有效性。在最后的评估中，我们的系统在 LAS（75.84％）上排名第一，并大幅跑赢了其他系统。

    Jul, 2018

  • UDapter：面向真正通用依存句法分析的语言适应

    该研究提出了一种基于文本参数生成和适配器模块的新型多语言任务适应方法，该方法通过语言嵌入来学习适配器，同时在各种语言之间共享模型参数，可有效地集成现有的语言类型学特征到分析网络中，并在高资源和低资源语言中均显着优于强的单语言和多语言基线，这表明了所提出的适应方法的成功。

    Apr, 2020