Dec, 2022

CoCoMIC: 通过联合建模文件内和跨文件上下文进行代码自动补全

PDF
TL;DR该研究工作提出了基于预训练代码语言模型的跨文件语境学习框架 CoCoMIC，通过有效地定位和检索最相关的跨文件语境，成功提高了代码完成的准确性。
pre-trained language modelscode completioncross-file contextmodular software developmentcocomic
发现论文，激发创造
  • 通过本地集成 IDE 导出的静态上下文增强 LLM 编码工具

    IDECoder 利用 IDE 提供的跨文件信息，改进了 Large Language Models 在大型软件项目的仓库级别代码补全任务中的性能。

    Feb, 2024

  • CrossCodeEval：用于跨文件代码补全的多样化和多语言基准

    通过对多文件、多语言代码完成任务进行深入研究，提出了一个多样化的、多语言的、需要深入理解跨文件上下文的代码完成基准，通过静态分析来准确定位需要跨文件上下文的实例，并证明跨文件上下文对于完整代码的准确性有着显著的影响。此外，还对检索跨文件上下文的各种方法进行了评估，并且展示了该基准的能力在衡量代码检索器的能力方面。

    Oct, 2023

  • ReACC：一种检索增强型代码补全框架

    本文提出了一种利用外部代码片段参考的检索增强代码补全框架，使用统计语言模型来训练，实现了针对 Python 和 Java 编程语言的最新表现状态的代码补全任务。

    Mar, 2022

  • 通过上下文数据丰富源代码，用于代码完成模型的实证研究

    本研究旨在探索是否通过使用上下文数据使代码易于理解会提高预训练代码语言模型完成代码补全任务的性能，并建议在训练、微调或选择此类模型时做出适当的设计选择，以改善自动补全的实用性和准确性。

    Apr, 2023

  • 层次上下文剪枝：通过仓库级预训练代码语言模型优化实际代码补全

    维护文件之间的拓扑依赖性和增加代码文件内容可提高完成准确性，修剪所有相关文件中函数的特定实现并不会显著降低完成准确性。基于这些发现，我们提出了一种名为 Hierarchical Context Pruning (HCP) 的策略，以高信息代码内容构建完成提示，该策略在函数级别模拟代码存储库，减少了用于代码完成的输入长度。实验结果表明，我们的方法可以显著提高完成准确性，并大大减少输入长度。

    Jun, 2024

  • 增强集成上下文信息的代码生成库

    CatCoder 是一种新颖的代码生成框架，扩展了库级代码生成的能力，通过整合相关代码和类型上下文，利用静态分析器提取类型依赖并将其与检索到的代码合并，创建综合提示；实验证明 CatCoder 在各种 LLMs 中表现良好，提供了一致的性能改进。

    Jun, 2024

  • 基于多任务学习的预训练语言模型 —— 代码补全

    本文介绍了一种基于多任务学习的预训练语言模型，采用 Transformer 神经网络架构，通过混合目标函数进行预训练，可以更好地理解和生成代码；在实验中证明了该模型相比现有的方法更为有效，尤其在完成标识符的任务上效果显著。

    Dec, 2020

  • 使用编译器反馈对项目级代码环境进行迭代改进以实现精确代码生成

    该研究提出了一种名为 ProCoder 的新方法，通过迭代修复项目级代码上下文中的错误，引导编译器反馈，从而使生成的代码精确无误。实验结果表明，ProCoder 显著改进了基本的大语言模型在生成项目相关代码方面的性能，并持续优于现有的基于检索的代码生成基准。

    Mar, 2024

  • RepoFusion: 训练代码模型以理解您的代码库

    本文介绍了一个名为 RepoFusion 的新型框架，其可以训练模型根据相关的代码库上下文以提供更加准确的代码自动补全建议，并且在单行代码完成任务中展示出比训练数据规模大 70 倍的模型表现 F1 分数更加优秀。我们还发布了一个 Java 代码库数据集 Stack-Repo 和模型检查点及源代码，以便进一步的研究。

    Jun, 2023

  • 上下文感知机器翻译中的上下文使用度测量与增加

    本文介绍了一种新的度量模型使用上下文的方法，并提出了一种新的训练方法来增加上下文感知模型的使用率。实验证明，这种方法可以提高翻译质量和语义连贯性。

    May, 2021