Mar, 2024

使用编译器反馈对项目级代码环境进行迭代改进以实现精确代码生成

PDF
TL;DR该研究提出了一种名为 ProCoder 的新方法，通过迭代修复项目级代码上下文中的错误，引导编译器反馈，从而使生成的代码精确无误。实验结果表明，ProCoder 显著改进了基本的大语言模型在生成项目相关代码方面的性能，并持续优于现有的基于检索的代码生成基准。
large language modelsautomated code generationproject-level code contextprocodercompiler feedback
发现论文，激发创造
  • 增强集成上下文信息的代码生成库

    CatCoder 是一种新颖的代码生成框架，扩展了库级代码生成的能力，通过整合相关代码和类型上下文，利用静态分析器提取类型依赖并将其与检索到的代码合并，创建综合提示；实验证明 CatCoder 在各种 LLMs 中表现良好，提供了一致的性能改进。

    Jun, 2024

  • 提升上下文学习，用于代码生成

    本文旨在提出一种名为 AceCoder 的新型代码生成方法，应用于六种已预先训练的语言模型，并在三个公共基准测试中进行了评估，结果显示 AceCoder 可以显著提高 PTLM 在代码生成方面的性能。

    Mar, 2023

  • 通过本地集成 IDE 导出的静态上下文增强 LLM 编码工具

    IDECoder 利用 IDE 提供的跨文件信息，改进了 Large Language Models 在大型软件项目的仓库级别代码补全任务中的性能。

    Feb, 2024

  • SemCoder：使用全面语义训练代码语言模型

    该论文提出了一种新的策略，通过连接静态代码文本和动态执行状态，训练具有全面语义的 Code LLMs，从而填补 Code LLMs 在诸如调试和程序修复等复杂任务中对深层语义的依赖的差距。该方法通过收集 PyX，一个具有可执行样本、功能描述和执行跟踪的干净代码语料库，训练 Code LLMs 使用自然语言编写代码、表示和推理执行行为，从而开发出了仅有 67 亿参数的 SemCoder，该模型在代码生成和执行推理任务上与 GPT-3.5-turbo 表现相当。

    Jun, 2024

  • MPCODER：具有显式和隐式风格表示学习的多用户个性化代码生成器

    利用 MPCoder（多用户个性化代码生成器）通过明确的代码风格残差学习和隐式风格学习，训练多用户风格适配器进行对比学习，从而实现多用户个性化代码生成，同时提出了一种用于估计不同代码风格之间相似性的新型评估指标。实验结果证明了我们方法在这一新任务中的有效性。

    Jun, 2024

  • 函数约束的程序综合

    该研究介绍了一种技术，它允许大型语言模型在解决编程任务时利用用户提供的代码，并且提出了一种逐步生成模块化子函数的方法，以帮助模型在初始生成的代码不足时进行未来的代码生成尝试。

    Nov, 2023

  • GrACE: 使用相关代码编辑进行生成

    使用先前的代码编辑知识赋予了智能代码生成大型语言模型 (LLMs) 先验知识，该模型的生成能力有助于解决代码更改的多样性以及对前期编辑的依赖，与常见的符号和神经方法相比，该方法使 LLMs 的性能显著提高了 29％和 54％。

    May, 2023

  • 利用大语言模型为编程语法错误生成高精度反馈

    本文介绍了使用大型编程语言模型（LLMCs 和 Codex）来生成高精度、人类可理解的反馈，以帮助初学者在 Python 编程中解决语法错误等问题，并且提出了一种新的运行时验证机制，这种机制能够为教育者提供一个调节精度的旋钮，确保反馈的准确性。通过两个真实数据集的评估表明，这个技术能够在生成高精度反馈方面取得良好的效果。

    Jan, 2023

  • 具备编译器反馈的可编译神经代码生成

    本文提出了一种名为 COMPCODER 的三阶段编译反馈机制，采用编译器反馈来生成可编译的代码，实验结果显示该方法的成功编译率从 44.18％提升至 89.18％。

    Mar, 2022

  • 自我编辑：面向代码生成的故障感知代码编辑器

    利用执行结果修正生成的代码，我们提出了一种基于人类编程阶段的生成和编辑方法来提高大型语言模型（LLM）在竞争性编程任务方面的代码质量，对使用不同参数大小的 9 种常见代码生成 LLM 在两个竞争性编程数据集上进行了广泛评估，相比于直接从 LLMs 生成的代码，我们的方法在 APP-dev 上的 pass@1 平均值提高了 89％，在 APPS-test 上提高了 31％，在 HumanEval 上提高了 48％，比其他后处理方法表现更优。

    May, 2023