Sep, 2024

RethinkMCTS：在蒙特卡罗树搜索中修正错误思维以进行代码生成

HTML
PDF
TL;DR本研究解决了现有代码生成中蒙特卡罗树搜索算法低搜索质量的问题，主要由于搜索空间设计不当和反馈整合不足。我们提出了一种新方法RethinkMCTS，通过思维级搜索与代码执行反馈相结合，显著提升了搜索的效率和质量，实验证明算法在代码生成性能上优于以往基线，特别在HumanEval数据集上实现了更高的通过率。
发现论文，激发创造
  • 超越代码：头脑风暴提升大型语言模型的代码生成能力

    本文介绍Brainstorm框架用于代码生成，该框架利用头脑风暴步骤生成和选择解决问题的可能性方案，从而极大地增强了大语言模型（LLMs）解决竞赛级编程问题的能力，可以与人类程序员的水平相媲美。

    May, 2023

  • 思维雕塑：通过中间修订和搜索进行推理

    THOUGHTSCULPT是一种通用的推理和搜索方法，采用蒙特卡洛树搜索（Monte Carlo Tree Search）来构建解决方案，其中的行动空间包括修订操作，并在三个具有挑战性的任务中表现优于现有的推理方法。

    Apr, 2024

  • 自然逻辑枢轴的评论：通过评论角度改进代码生成

    借助注释作为代码LLMs生成能力的增强策略，MANGO显著提高了代码通过率，并且逻辑注释解码策略的鲁棒性明显高于思路链引导。

    Apr, 2024

  • MapCoder: 多智能体编码生成竞争问题求解

    使用多智能体提示的新方法进行代码生成任务，利用四个特定设计的语言模型代理模拟人类开发者在程序综合的全部周期中观察到的阶段，展示出优秀的代码生成能力并取得新的最先进结果。

    May, 2024

  • 通过程序生成、仿真和搜索学习推理

    通过训练语言模型生成伪程序并使用优化搜索算法，我们展示了代码合成可以应用于更广泛的问题类别，并取得了比传统方法更好的结果。

    May, 2024

  • 使用LLMs进行代码修复的探索-利用权衡

    利用大型语言模型（LLMs）迭代改进和修复源代码已成为一种流行的方法，该方法被称为细化，可生成过于复杂无法一次构建的程序。我们发现细化代码暴露了探索与利用的权衡：通过改进通过测试用例的程序进行利用，或通过改进较少考虑的程序进行探索。我们将其视为一种获取臂的赌博机问题，并用汤普森采样解决。得到的基于LLM的程序合成算法具有广泛的适用性：在循环不变量合成、视觉推理谜题和竞赛编程问题中，我们发现我们的新方法可以在更少的语言模型调用下解决更多问题。

    May, 2024

  • 分治与共识的结合：释放代码生成中函数的威力

    使用FunCoder框架，结合分而治之的策略和函数的共识，递归拆分子函数并将其组合，以应对复杂的需求，并通过功能共识在正确性评估方面具有优势。

    May, 2024

  • DOCE：基于执行的代码生成中的最佳执行点

    本研究解决了现有LLM代码生成方法缺乏综合比较框架的问题，提出了一套包含候选生成、n-best 重排名、最小贝叶斯风险解码和自我调试的综合框架。研究结果强调了基于执行的方法的重要性，并展示了通过单元测试过滤的简单有效策略对提升代码生成性能的影响。

    Aug, 2024

  • 基于多LLM的代理调试器：精炼与生成指导

    本研究解决了大型语言模型（LLMs）在复杂代码生成任务中的准确性问题。提出了一种新的LLM代理架构——精炼与生成指导调试（RGD），通过分步骤处理代码生成，提升了LLMs的自主生成与精炼代码的能力。实验结果表明，RGD在代码生成能力上实现了显著提升，为程序开发提供了更有效的自动调试工具。

    Oct, 2024

  • RGD：基于多大语言模型的代理调试器通过改进和生成指导

    本研究解决了大型语言模型（LLMs）在复杂代码生成任务中的准确性问题，提出了一种名为RGD的多LLM代理调试框架。该框架通过分解代码生成任务，结合自我反思和反馈进行迭代代码改进，实验结果显示在多个数据集上均显著提升了代码生成性能，展示了其在增强LLMs自主生成和改进代码能力方面的潜力。

    Oct, 2024