Oct, 2022

多视角推理：一种用于数学题的一致性对比学习

PDF
TL;DR提出了一种多视角一致性对比学习方法，用于数学语义到方程的映射，在多粒度上对两种推理视角进行兼容，提高全局生成和精确推理。
mathematicsreasoningequationsconsistent learningmulti-view
发现论文，激发创造
  • 学会演绎推理：将数学问题解决视为复杂关系提取

    提出了一种基于复杂关系提取的数学问题求解方法，通过可解释的演绎推理步骤构建目标表达式，实现了更准确且可理解的问题求解。

    Mar, 2022

  • 文本增强对比学习在解决数学题中的应用

    本研究提出了一种名为 “Textual Enhanced Contrastive Learning” 的方法，采用自监督学习策略，丰富了数学问题的文本变异性，并从方程和文本角度检索最难区分的样本以指导模型进行学习，最终达到了在英文和中文基准数据集以及设计挑战数据集上均表现最佳的效果。

    Nov, 2022

  • 通过多角度微调提高数学推理的泛化能力

    本文提出了一种新的数学推理多视角微调方法，能够在避免过度依赖大型模型的情况下，提高小型语言模型的性能，并且能够灵活地学习不同的注释格式以及在不同数据集上实现良好的泛化能力和学习能力。

    Jul, 2023

  • 寻求多样化的推理逻辑：控制方程式表达式生成以解决数学应用题

    本文提出了一种通过控制代码来引导模型考虑某些推理逻辑和解码与人类参考转换的相应等式表达式的可控等式生成求解器，实验结果表明我们的方法对单一未知（Math23K）和多个未知（DRAW1K，HMWP）基准测试普遍提高了性能，最大的改善高达 13.2％的准确性在具有挑战性的多未知数据集上

    Sep, 2022

  • 寻求模式，而非单纯记忆过程：对比学习解决数学问题

    本文提出一种对数学文字问题解决方案的改进方法，通过对原型方程进行比对学习，训练神经网络识别相似原型的问题，并在中英文数据集上取得了大幅提升的表现。

    Oct, 2021

  • 解决和推理数学应用问题的语义对齐方程生成

    本文提出了一个神经网络模型，基于编码器 - 解码器框架，利用自然语言理解桥接语义世界和符号世界，自动解决数学应用问题，并在 Math23K 数据集上验证模型的有效性。

    Nov, 2018

  • 通过对比预训练实现对数学问题的全面理解

    本研究提出了一种新的数学问题对比预训练方法 QuesCo，该方法利用知识层次结构感知的排名策略来更好地表示数学问题，并进行了广泛的实验以证明其有效性。

    Jan, 2023

  • 利用关系抽象进行推理的学习

    本文介绍了一种利用关系抽象概念来帮助大型语言模型在数学推理方面提高的新方法，并发现将这种序列用作提示可使模型具有更强的推理能力，特别是在需要执行多步任务的情况下。

    Oct, 2022

  • 映射为声明性知识以解决数学应用题

    本文探讨了将自然语言描述的概念转换成数学表达式的声明性规则，并提出了一种将此类声明性知识纳入解决数学问题的框架。通过学习如何选择与解决方案表达式的每个操作相关的声明性知识，实现了将算术单词问题文本映射到数学表达式，同时支持答案表达式的可解释性。实验评估表明，基于领域知识的求解器优于其他所有系统，并且在训练数据与测试数据偏向不同的实际情况下更具有普适性。

    Dec, 2017

  • DOMINO: 多步视觉语言推理的双系统

    通过一个包含系统 1 和系统 2 的双系统，本论文提出了一种用于多步骤多模态推理的方法，其中系统 1 用于提取视觉信息，系统 2 用于深入推理。通过实验证明，我们的方法在图表数据集上与之前的工作相比表现出竞争力，在多步骤推理的少量数据上通过微调系统 2 模块（LLaMA-2 70B），我们的方法的准确性得到进一步提升，并在具有人工提出问题的挑战性数据集上超过最佳全监督端到端方法 5.7% 以及具有 FlanPaLM（540B）的流水线方法 7.5%。

    Oct, 2023