Sep, 2024

MathDSL：一种用于简洁数学解决方案的领域特定语言

HTML
PDF
TL;DR本研究解决了数学方程求解中的表达简洁性问题，提出了一种新颖的领域特定语言MathDSL，相比于现有的基于强化学习的方法，其在准确性和简洁性上均有显著提升。主要发现表明，使用MathDSL的程序合成系统DreamCoder能够生成更高质量的解决方案，并在数学教育中具有潜在应用价值。
发现论文，激发创造
  • 基于程序综合的混合优化强化学习方法

    本论文提出一种MORL的框架，通过程序合成技术实现对基于神经网络的黑箱模型深度强化学习策略的改进，得到符号表示形式，使其可以被手动或自动调试，经过行为克隆和梯度下降法的改进，不断迭代直到满足所需约束，在CartPole问题上的实例研究表明该方法能够进行高效的策略学习改进。

    Jul, 2018

  • RLang: 强化学习表达先验知识的声明式语言

    RLang是一种领域特定语言，用于为强化学习（RL）代理程序传递后台知识并加速学习。RLang可以指定有关MDP每个元素的信息，我们提供了一系列RLang程序作为实例，并演示了不同RL方法如何利用其知识。

    Aug, 2022

  • 揭示思维链背后的谜团：理论视角

    研究表明Chain-of-Thought提示可以显著改善大型语言模型的性能，特别是在涉及数学或推理的复杂任务中。本文首先对这些问题的潜在机制进行了理论方面的探讨， 然后通过构建的方式证明了带有CoT的自回归机器人可以解决基本算术方程问题和决策制定问题，并且具有动态编程方面的潜在应用。

    May, 2023

  • 提高语言模型在数学问题上性能的混合策略

    通过混合策略探索，我们提出一种用强化学习解决数学问题的方法，在解决数学问题的过程中，我们通过在两个层次上进行探索来预测下一个令牌，并在GPT-2模型上取得了超过2%的性能提升。

    Jul, 2023

  • B-Coder：基于价值的深度强化学习在程序合成中的应用

    程序合成通过从自然语言描述中创建准确的可执行代码。本文研究了基于增强学习和预训练语言模型的价值方法在程序合成中的应用，并展示了其在性能上达到了最新水平。

    Oct, 2023

  • TeaMs-RL：通过强化学习教授LLMs更好地自我指导

    通过使用增强学习直接生成基础指令数据集，TeaMs-RL 方法能够在单一微调步骤中提高大型语言模型的能力，减少人为参与需求、模型查询次数以及提高模型隐私保护能力。

    Mar, 2024

  • RLSF: 强化学习来自符号反馈

    我们提出了一种名为符号反馈强化学习（RLSF）的新型训练/微调范式，旨在增强LLMs的推理能力，并通过使用证明等符号工具来提供精确的奖励信号，从而从传统方法中克服了局限性。

    May, 2024

  • MathOdyssey: 使用Odyssey数学数据对大型语言模型中的数学问题解决技能进行基准测试

    该研究探讨了大型语言模型（LLMs）在数学问题求解方面的能力，并使用新开发的“MathOdyssey”数据集进行测试。研究结果显示，尽管LLMs在常规和中等难度任务上表现良好，但在奥林匹克级难度和复杂的大学水平问题上仍面临重大挑战，因此需要进一步研究来提高LLMs的数学推理能力。

    Jun, 2024

  • MathCAMPS: 从人类课程中细化合成数学问题

    我们提出了MathCAMPS方法，用于合成高质量的数学问题，并通过LLMs将其转化为单词问题，以进一步探索数学问题解决和对话中的各种技能和能力。

    Jul, 2024

  • 基于执行反馈和强化学习的代码大语言模型基础研究

    本研究针对现有大型语言模型在代码合成中的反馈利用不足的问题，提出了一种端到端的强化学习方法，以增强模型对执行反馈的利用。实验结果表明，所提方法在竞争性编程任务中取得了新的最优成果，并显著降低了所需样本量，展示了模型在多步骤中有效利用自动反馈的能力。

    Oct, 2024