Apr, 2024

基于解释的自然语言推理的可微整数线性规划求解器

HTML
PDF
TL;DR提出了一种名为Diff-Comb Explainer的新方法，它是一种基于可微的黑匣子组合求解器(DBCS)的神经符号体系结构，用于基于解释的自然语言推理(NLI)，通过直接、更精确和高效地将神经表示纳入ILP公式中，显著提高了构建解释的精度，一致性和忠实度，在复杂领域为可解释和透明的NLI研究提供了新的机会。
发现论文，激发创造
  • 大规模知识库和自然语言上的可微推理

    本文提出了一种解决人工智能中自然语言和知识库的推理问题的方法，即利用神经定理证明器和共享嵌入空间来实现，该方法被证明的可扩展性更加高效，并取得了较好的预测结果和可解释性。

    Dec, 2019

  • 自然语言处理中可解释人工智能的现状调查

    介绍当前自然语言处理中可解释AI的现状和对主要解释的分类，探究生成和可视化解释的各种方式和操作，详细介绍了为NLP模型预测生成解释的可用操作和可解释性技术，并提出当前领域研究存在的差距和未来方向。

    Oct, 2020

  • 神经符号人工智能在自然语言处理方面是否兑现其承诺？一项结构化综述

    通过研究关于Neuro-Symbolic人工智能（NeSy）在自然语言处理中的应用，发现将逻辑编译到神经网络中的系统能够实现最佳的NeSy目标，呼吁更加系统化的方法和适当的基准测试用于理解该领域的发展。

    Feb, 2022

  • 利用可微逻辑程序语义学习一阶规则

    本研究提出一种名为DFOL的新型可微分归纳逻辑编程模型，通过搜索可解释的矩阵来从关系事实中找到正确的一阶逻辑程序，并将符号前向链接格式转换为NN约束函数，并采用梯度下降将NN的训练参数解码成精确的符号逻辑程序。

    Apr, 2022

  • 基于跨度级别预测的逻辑推理，实现可解释且鲁棒的自然语言推理模型

    通过引入基于逻辑推理的框架，创造出基于逻辑规则的非常透明的模型决策，从而提高自然语言推理模型的可解释性和鲁棒性，并在减少数据的情况下更进一步地改善了模型性能和鲁棒性。

    May, 2022

  • 超越近似：通过可微组合求解器对编码约束进行可解释的多跳推理

    Diff-Comb Explainer揭示了现有的不可区分的解算器、转换器和现有的不可区分的约束多跳推理框架中的精度和可解释性改进，是一种基于Differentiable BlackBox Combinatorial solvers(DBCS)的神经符号结构。

    Aug, 2022

  • 几何检验的解缠绕拟符号解释自然语言推理

    本研究基于 VAE 框架，定量定性地评估了生成的潜在空间在向量操作和语义解缠方面的几何特性，实证结果表明潜在空间中的角色内容被解缠，这为通过操纵向量在潜在空间上的遍历来控制解释生成提供了机会。

    Oct, 2022

  • 通过可微分符号编程改进语言模型的逻辑推理能力

    本文提出 DSR-LM 框架，通过符号编程实现不同iable 符号推理框架，其中预训练的语言模型控制事实知识的感知，符号模块执行演绎推理，并改进了LMs的逻辑推理能力，结果表明其在推理基准测试中的精度提高了20%以上。

    May, 2023

  • 通过迭代符号细化增强大型语言模型的伦理解释

    本研究探讨如何利用混合神经符号技术来增强大型语言模型在伦理自然语言推理中的逻辑有效性和一致性，通过整合外部的向后求解器，改进逐步自然语言解释的过程，验证解释的正确性，减少不完整性和冗余性，并生成支持模型推理的形式证明，从而提高在多步伦理自然语言推理任务中解释的质量。

    Feb, 2024

  • 通过LLM-符号定理证明验证和改进自然语言解释

    通过将大型语言模型（LLMs）与定理证明器（TPs）相结合，本文研究了自然语言解释的验证和改进，提出了一个名为Explanation-Refiner的神经符号框架，用于生成和形式化解释句子，并为自然语言推理（NLI）提供潜在的推理策略。同时，定理证明器用于提供解释逻辑有效性的形式保证，并针对改进提供反馈。展示了如何共同使用Explanation-Refiner来评估最先进的LLMs的解释推理、自动形式化和错误纠正机制，以及自动提高不同领域中复杂性不同的人工注释解释的质量。

    May, 2024