Sep, 2019

ASU 在 TextGraphs 2019 共享任务中的解释再生成：使用语言模型和迭代重新排名

HTML
PDF
TL;DR该研究介绍了亚利桑那州立大学自然语言处理组在TextGraphs 2019共享任务上的系统，该任务旨在进行解释重建，其是大型图多跳推理的中间步骤。我们将解释重建任务建模为“学习排序”问题，利用先进的语言模型并探索数据集准备技术。我们使用基于迭代二次排序的方法进一步改善排名。在测试集上，我们的系统获得了第二名，平均精度为41.3％。
发现论文，激发创造
  • 句子级TextGraphs的多跳推理：为科学问题回答有效地结合信息有多具有挑战性？

    通过评估来自三个自由文本语料库的知识图构建的通过词汇重叠连接的句子的机会聚合质量的9,784个手动注释的判断，我们实证表征了构建或遍历图形的困难，表明语义漂移倾向于很高并且聚合质量很低，高亮最大化有意义地组合信息的情况。

    May, 2018

  • 2019年TextGraphs共享任务中的红龙AI：借助语言模型协助生成解释

    Red Dragon AI採用問題和解釋文本的語言直接進行解釋重建，並提出三種不同階段的方法以增加方法的複雜度並在TextGraphs-13的競賽中獲得第三名。

    Nov, 2019

  • 使用Transformer进行事实链的自回归推理

    本文提出了一种迭代推理算法来实现多跳解释再生，该算法根据自然语言问题和其答案检索相关的事实证据。该算法通过自回归地从语料库中选取事实，以学习排序损失的方式来缓解多源证据的选择问题。使用预训练的Transformer模型进行实验，结果显示该算法在精度、培训时间和推理效率方面均优于先前的最先进技术。

    Dec, 2020

  • Red Dragon AI 在 TextGraphs 2020 共享任务中的表现：LIT：用 LSTM-交错Transformer 进行多跳解释排名

    本研究提出LSTM-Interleaved Transformer作为可解释的科学问题的提问和回答任务的解决方案，该方案采用跨文档交互以提高多跳排名。我们的模型在TextGraphs 2020共享任务中排名第三。

    Dec, 2020

  • Red Dragon AI参加TextGraphs 2021共享任务：通过匹配专家评分进行多跳推理解释重建

    通过多跳推理、文本语言模型和排序集成技术，我们的系统在Textgraphs共享任务中获得第二名，通过专家的相关性评分，聚焦于收集相关语句，而不仅仅是找到一条“正确路径”

    Jul, 2021

  • 使用预训练语言模型生成解释图：对比学习的实证研究

    该研究针对预训练语言模型生成结构化输出能力进行分析，提出以节点和边为编辑操作的基本图形干扰方案，有效提升对解释图形的语义和结构精度，并将其应用于对比学习建模中。

    Apr, 2022

  • 三元组检索的图式推理问答

    提出了一种简单而有效的方法来检索和重新排序与问题回答相关的三元组，并将它们与问题连接以提高语言模型的表现，实验结果显示，其在常识问答和开放式书本问答数据集上均表现优于现有的最佳方法。

    May, 2023

  • RESTORE: 通过重构进行图嵌入评估

    通过图重构提出了一种用于内在图嵌入评估的框架，并分析了不同家族的图嵌入方法在保留拓扑结构和语义信息方面的效果，结果显示基于深度学习的图嵌入算法在拓扑重构方面更具优势，而基于分解的算法在概括语义信息方面较好，这些图嵌入方法的表现仍然有待进一步的研究。

    Aug, 2023

  • G-Retriever：文本图理解与问答的检索增强生成

    给定具有文本属性的图，我们使用对话界面使用户能够与其图进行交流，在回答用户问题时提供文本回复并突出显示图的相关部分。通过开发我们的图问题回答（GraphQA）基准和集成GNN、LLM和RAG的G-Retriever方法，我们在多个领域的文本图任务中超越基准，而且可以适应更大的图大小并抗幻觉。

    Feb, 2024

  • 利用大型语言模型进行NLP教育中的概念图恢复和问题回答

    本研究探索了大型语言模型在教育应用中的能力，重点关注概念图恢复和问题回答。研究通过引入TutorQA，一个新的专家验证的自然语言处理基准，评估了大型语言模型在领域特定的概念图和问题回答中的性能，证明其零-shot概念图恢复具有竞争力，且CGLLM生成的答案具有更精细的概念。

    Feb, 2024