Jan, 2024

使用 AlphaCodium 进行代码生成：从提示工程到流程工程

PDF
TL;DR我们提出了一种名为 AlphaCodium 的基于测试、多阶段、面向代码的迭代流程，通过这一方法改进了语言模型在代码生成问题上的性能。在 CodeContests 数据集上进行的实验表明，AlphaCodium 流程在提高了 GPT-4 在代码生成任务上的准确率。
code generationllmsalphacodiumtest-basediterative flow
发现论文，激发创造
  • AlphaCode 与竞技级代码生成

    AlphaCode 是一个针对竞争性编程问题的系统，通过三个关键组件（专业数据集、高效转换架构和大规模模型采样）实现针对较深层次的推理并在 Codeforces 上实现了良好和可靠的表现。

    Feb, 2022

  • 测试在不同级别的提示特异性下进行的代码生成的 LLMs

    评估了各种 LLM 在生成 Python 代码方面的性能，揭示了创建准确的 Python 函数的理想提示策略。

    Nov, 2023

  • 语言编码：机器学习流水线中的变革性代码生成的协同框架

    通过 Linguacodus 框架，将自然语言描述无缝转化为可执行代码，实现了自动化代码生成，为机器学习在各个领域的应用带来了巨大的潜力。

    Mar, 2024

  • 与提示问题的交互：使用大型语言模型进行编程教学的新方法

    通过 Prompt Problems 的方法，我们提出了一种新的教授编程的方式，学生可以通过将问题转化为语言模型（LLMs）所能理解的提示来解决编程问题，并且我们展示了这个工具的设计、学生使用情况以及将 LLMs 整合到设计工具中所带来的新型编程问题和洞见。

    Jan, 2024

  • 提纲先行：句法引导的粗到细代码生成

    通过提出 ChainCoder 程序合成语言模型，从粗到细地分多步生成 Python 代码，以此缓解编程思考的困难，该模型能与自然语言描述和语法对齐的 I /O 数据样本同时编码，这一方法已超越现有技术，并生成更高质量的解决方案。

    Apr, 2023

  • 探索大型语言模型在解决编程问题中的鲁棒性

    该研究探讨了大型语言模型在编程问题中的应用，发现最新技术如 InstructGPT 和 ChatGPT 在处理指令时表现优异，而早期使用变量名如 Codex 的模型的性能受描述问题时表浅的指标较大影响。

    Jun, 2023

  • 代码感知提示：在使用 LLM 进行回归设置下的覆盖率引导测试生成研究

    对测试生成的向搜索引擎软件测试方法（Search Based Software Testing，SBST）进行了改进，使用大型语言模型（LLMs）和 SymPrompt 自动生成更全面的测试案例，提高测试质量与覆盖率。

    Jan, 2024

  • 草图然后生成：通过以语言为导向的代码草图，提供增量用户反馈和引导 LLM 代码生成

    使用语言导向的代码草稿提供即时且逐步的反馈，从而提高人工与大型语言模型之间的交互效果。该方法通过利用提示中固有的语言结构和经典的自然语言处理技术，将提示转化为代码草稿，并作为中间占位符，预览预期的代码结构，引导大型语言模型生成期望的代码。

    May, 2024

  • LLMs 存储库级提示综述

    这篇综述研究了大型语言模型在编码生成任务中的有效提示方法，探讨了从个别编码问题到仓库规模解决方案的转变，旨在推进开发者生产力，为商业应用场景提供有用且适用的黑盒语言模型方法，并介绍了基于仓库级提示生成技术与 RepoCoder 的迭代检索与生成方法之间的权衡，以确立最佳实践，为尖端编码基准提供改进路径。

    Dec, 2023

  • 函数约束的程序综合

    该研究介绍了一种技术，它允许大型语言模型在解决编程任务时利用用户提供的代码，并且提出了一种逐步生成模块化子函数的方法，以帮助模型在初始生成的代码不足时进行未来的代码生成尝试。

    Nov, 2023