Oct, 2023

CodeChain: 通过自修订的子模块链实现模块化代码生成

PDF
TL;DR通过一系列自我修订实现模块化代码生成的 CodeChain 框架，在解决复杂编程任务方面取得显著提升。
large language modelscodechainmodularized code generationself-revisionssub-modules
发现论文，激发创造
  • 代码链：利用语言模型加强的代码仿真器进行推理

    我们提出了 Chain of Code (CoT) 这一简单但非常有效的扩展方法，通过鼓励语言模型将语言子任务格式化为编程中的伪代码，以期改进语言模型驱动的推理，并通过 “思考代码” 的方式扩大语言模型能够正确回答的推理问题范围。

    Dec, 2023

  • 超越准确性：使用 IdentityChain 评估编程领域的大型语言模型的自一致性

    Code Large Language Models (Code LLMs) are evaluated for their self-consistency and general accuracy using the IdentityChain framework, which exposes weaknesses in current models and serves as a model debugging tool.

    Oct, 2023

  • 函数约束的程序综合

    该研究介绍了一种技术，它允许大型语言模型在解决编程任务时利用用户提供的代码，并且提出了一种逐步生成模块化子函数的方法，以帮助模型在初始生成的代码不足时进行未来的代码生成尝试。

    Nov, 2023

  • PromptChainer：通过可视化编程连接大型语言模型提示

    探索了基于 LLMs 的多次运行串联（即 chaining）的可视化编程过程，引入一个交互式界面 PromptChainer 来支持用户构建各种机器学习应用的原型。

    Mar, 2022

  • CYCLE: 学习自我完善代码生成

    我们提出了 CYCLE 框架，学习根据可用反馈（如测试套件报告的执行结果）来自我完善错误的生成，结果表明 CYCLE 成功地保持，有时提高了一次性代码生成的质量，同时显著提高了代码语言模型的自我完善能力。

    Mar, 2024

  • AI Chains: 通过大型语言模型提示链实现透明和可控的人工智能交互

    通过将不同步骤进行连锁，结合原语操作以及交互式系统的支持，可以提高大型语言模型的制约性、用户透明度和协作感，并可以为未来应用中提供多种诊断、校准和比较算法的方法。

    Oct, 2021

  • 大型语言模型作为测试用例生成器：性能评估与增强

    使用大型语言模型（LLMs）生成高质量的测试用例是一个重要问题，目前的研究主要集中在改进代码生成过程中通过 LLMs 生成辅助测试用例的性能，而 LLMs 在仅生成测试用例方面的性能尚未全面研究。为了填补这一空白，本文通过大量实验研究了 LLMs 生成高质量测试用例的能力，并提出了一种名为 TestChain 的多代理框架，通过与 Python 解释器的交互提供更准确的测试输出，实验结果表明 TestChain 在测试用例准确性上明显优于基准模型，其中使用 GPT-4 作为基础的 TestChain 在 LeetCode-hard 数据集上相比基准模型改进了 13.84%。

    Apr, 2024

  • 工具链：大型语言模型作为自动多功能学习器

    通过自动工具链和黑盒探测方法，为大型语言模型提供了扩展功能，使其成为多工具用户，能够主动发现和使用新工具，从而解决实际任务中的规划和工具选择的挑战。

    May, 2024

  • 提纲先行：句法引导的粗到细代码生成

    通过提出 ChainCoder 程序合成语言模型，从粗到细地分多步生成 Python 代码，以此缓解编程思考的困难，该模型能与自然语言描述和语法对齐的 I /O 数据样本同时编码，这一方法已超越现有技术，并生成更高质量的解决方案。

    Apr, 2023

  • MoTCoder: 模块化思维提升大型语言模型用于具有挑战性的编程任务

    通过引入模块思维编码器（MoTCoder）框架，本研究针对大型语言模型在处理编程问题时的性能下降问题进行了研究，并提出了一种模块化指导下的任务分解方法，通过培育和利用子模块，显著提高了生成解决方案的模块化程度和正确性，从而在 APPS 和 CodeContests 上相对 pass@1 指标分别提升了 12.9% 和 9.43%。

    Dec, 2023