May, 2023

自动推理中相关问题集的轻量级在线学习

PDF
TL;DR自驱动策略学习是一种轻量级在线学习方法，适用于解决一组相关问题的自动化推理任务。它使用机器学习模型根据数据集调整后续问题的解决策略，从而实现更好的边界模型检查性能。
self-driven strategy learningonline learningautomated reasoningmachine learning modelbounded model checking
发现论文，激发创造
  • 知识图谱推理：自我监督强化学习

    强化学习通过自我监督预训练方法改进了知识图谱推理任务的性能，解决了动作空间大的挑战和分布不匹配问题，并且超过了现有的最先进结果。

    May, 2024

  • 离线安全强化学习的时态逻辑条件决策变压器

    我们提出了一种利用信号时态逻辑 (Signal Temporal Logic, STL) 指定复杂时态规则并使用决策变压器 (Decision Transformer, DT) 进行顺序建模的新框架，称为时态逻辑规范化决策变压器 (Specification-conditioned Decision Transformer, SDT)，在 DSRL 基准测试上的实证评估表明，与现有方法相比，SDT 学习安全且高奖励策略的能力更强，并且 SDT 在满足不同 STL 规范要求的程度方面表现良好。

    Feb, 2024

  • 基于强化学习的流推理缓存策略管理

    本文提出了一种基于冲突驱动约束学习（CDCL）的方法，通过智能管理学习到的约束条件来有效地更新流推理算法的遗留解决方案，研究了强化学习在连续评估先前计算的约束条件的实用性，并在真实世界的重构问题上取得了显着的性能提升，为流推理场景提供了新的解决思路。

    Aug, 2020

  • 离线交互数据的距离加权监督学习

    该研究介绍了一个名为 DWSL 的距离加权监督学习方法，用于从线下数据中学习目标条件策略，通过加权行动以估计最短路径距离，能够在高维图像领域中超过先前的目标条件 IL 和 RL 算法的性能。

    Apr, 2023

  • 具有学习功能的抽象答案集求解器

    本文利用转换系统来描述多种逻辑程序的答案集求解器，使得更容易证明它们的正确性、比较它们以及设计新的系统。

    Jan, 2010

  • SAAS：增强大型语言模型数学推理的解决能力放大策略

    本研究提出了一种新颖的学习方法，旨在增强大型语言模型的数学推理和问题解决能力。通过整合思维链和思维方案的学习，以解决数学问题为重点，提出了一种名为 SAAS 的顺序学习方法。经过广泛的性能比较实证研究，结果表明我们的 SAAS 在数学推理领域取得了最先进的性能。

    Apr, 2024

  • SoLA：基于求解器层适应的 LLM 在逻辑推理中的应用

    对大型语言模型（LLMs）在逻辑推理中所面临的挑战，以及利用工具学习改变问题求解的过程进行了探讨。本文提出了一种新颖的解算器层自适应（SoLA）方法，通过将解算器作为 LLMs 的新层，以不同的方式引导解决方案朝着可满足性发展。通过利用 MaxSAT 作为桥梁，定义正向和反向转移梯度，使最终模型能够收敛到满足的解决方案或证明不可满足性。通过验证 SoLA 在各种数据集上的性能，实证证明了其在大规模问题求解的效率上相对于现有的符号求解器（包括 Z3 和 Kissat）和工具学习方法的持续优势。

    Feb, 2024

  • 基于再模拟的自监督学习用于预训练基础模型

    RS3L 是一种基于模拟的自监督学习策略，通过重新模拟过程和重新运行干预之后的模拟组件生成多个事件的多种增强模式，从而产生一组包含模拟器中的所有物理驱动变化的增强样本，实现了强大的性能在辨别各种对象和不确定性减轻等下游任务中。

    Mar, 2024

  • 通过可微分符号编程改进语言模型的逻辑推理能力

    本文提出 DSR-LM 框架，通过符号编程实现不同 iable 符号推理框架，其中预训练的语言模型控制事实知识的感知，符号模块执行演绎推理，并改进了 LMs 的逻辑推理能力，结果表明其在推理基准测试中的精度提高了 20% 以上。

    May, 2023

  • 具有上下文敏感声明性语法的扩展合成逻辑推理数据集

    利用培训语言模型模仿定理证明器在过程生成的问题上进行逻辑推理仍然是自然语言处理的一个挑战。我们提出了一个更简单、更普遍的声明性框架，通过灵活的上下文敏感规则来绑定多种语言（特别是简化英语和 TPTP 定理证明语言），从而改进了逻辑推理的能力。我们使用语义约束在生成过程中，并对谓词进行仔细的英语表达，提高了逻辑推理能力，而不损害自然英语任务。我们使用相对较小的 DeBERTa-v3 模型在人类编写的逻辑数据集 FOLIO 上实现了最先进的准确性，在有或无外部求解器的情况下，精度超过了 GPT-4 12%。

    Jun, 2024