模块化网络：以现有模型语言学习任务分解

ACLSep, 2020

模块化网络：以现有模型语言学习任务分解

Text Modular Networks: Learning to Decompose Tasks in the Language of Existing Models

Tushar Khot, Daniel Khashabi, Kyle Richardson, Peter Clark, Ashish Sabharwal

TL;DR研究提出了一种名为 Text Modular Networks 的通用框架，用于构建可解释性系统，该系统通过将复杂任务分解成已经存在的模型可以解决的较简单的任务来学习解决复杂任务。该框架应用于问答领域，提出了一个名为 ModularQA 的系统，该系统可以将多个子问题组成多跳推理问题，并对模型推理过程提供自然语言解释。与现有的解释系统相比，该系统具有更好的灵活性和鲁棒性，并且生成的解释更易于理解和可信度更高。

Abstract

We propose a general framework called text modular networks(TMNs) for building interpretable systems that learn to solve complex tasks by decomposing them into simpler ones solvable by existing models. To ensure

text modular networks interpretable systems question answering modularqa explainable systems

发现论文，激发创造

神经模块网络用于文本推理

通过引入能够对文本段进行推理的组件、以概率性和可微分的方式执行数字和日期等符号推理的组件，提出了一种改进的神经模块网络（NMNs）模型，提高了非合成问题的预测效果，实验结果表明，该模型在 DROP 数据集上取得了显著的性能提升。

Dec, 2019

学会分解：基于可比文本的假想问题分解

本文研究大规模中介设备的预训练，在使用来自可比文本，特别是大规模平行新闻的远程监督的情况下将显式分解建模应用于自然语言理解系统。作者称使用这种中间预训练可以更容易地开发强大的显式分解模型。例如，该模型在语义分析方面取得了 20％至 30％的改进，并用于构建名为 DecompEntail 的新型显式分解问答系统。

Oct, 2022

基于堆栈神经模块网络的可解释神经计算

本研究提出一种新颖的神经模块化方法来实现基于组合推理的问题回答，该方法不需要强监督，能自动诱导期望的子任务分解并通过共享模块链接不同的推理任务，实验表明该模型比当前先进模型更易于人类评估者解释以及预测其中间结果的成功或失败。

Jul, 2018

一个问题分解单元就足够了吗？

研究者们探讨了一种新的方法通过人在内的 NLP 研究，在不建立新模型的情况下，通过将数据分解为模型更易于回答的一系列简单问题来提高模型性能，证明了这种方法的可行性，可以作为建立大型语言模型的替代方案。

May, 2022

学会推理：端到端模块化网络用于视觉问答

本研究提出了一种新的基于神经网络的问题回答方法，使用 End-to-End Module Networks 技术，学习直接预测特定问题网络图层，该方法相对于现有最先进的注意力方法实现了近 50％的误差减少，特别针对 CLEVR 数据集。

Apr, 2017

分解提示：解决复杂任务的模块化方法

提出了分解提示法（Decomposed Prompting）的方法，通过将复杂任务分解成简单的子任务来解决复杂任务，并且可以针对每个子任务优化其专用提示，进一步分解复杂任务并取得更好的性能，特别是在符号推理任务和多步推理任务中。

Oct, 2022

初探：通过视觉和文本解释实现可解释的 TextVQA 模型

该论文提出了一种可解释的深度学习模型 - MTXNet，着重于图像中的文本的多模态解释生成，并使用包含视觉信息和多种文本解释的新颖数据集 TextVQA-X 进行训练和评估，显示出该多模态解释与人类解释一致，有助于为模型的决策提供有用的见解。该模型解释效果的得分在 CIDEr 方面优于单模态模型至多 7％，在 IoU 方面优于单模态模型至多 2％。

Apr, 2021

朝着全面答案更近一步：使用大型语言模型进行约束的多阶段问题分解

通过引入 “分解和查询”(D&Q) 框架，使得大规模语言模型在回答问题时能够避免幻觉，通过引导模型思考并利用外部知识，同时限制其思考范围在可靠信息内，从而有效减轻了幻觉的风险。实验证实了 D&Q 的有效性：在我们的 ChitChatQA 数据集上，D&Q 在 67％的情况下不输给 ChatGPT；在 HotPotQA 的仅问题设置下，D&Q 获得了 59.6％的 F1 得分。我们的代码可在此 https URL 找到。

Nov, 2023

子任务分解使序列到序列任务学习成为可能

本文证明，将中间监督合并到输入中、在修改过的输入上训练序列到序列模型时，无法学习的复合问题可以变得可学习。

Apr, 2022

通过分解学习自适应语言界面

该研究旨在创建一个交互式、自然语言接口，通过学习用户在模拟机器人环境中完成任务。该接口引入了一种神经语义解析系统，通过分解学习新的高层抽象：用户通过将描述新行为的高层话语分解为它可以理解的低级步骤来与系统互动。作者的方法弥合了现有方法之间的差距，并证明了现代神经系统的灵活性以及基于语法的方法具有的一次可靠泛化能力。研究还讨论了实现交互式范式的潜力的障碍。

Oct, 2020