Mar, 2022

利用大规模预训练技术自动化代码审查活动

PDF
TL;DR该研究提出利用预训练技术来自动化代码审查，使用 4 项专门为代码审查场景定制的预训练任务，建立了包含 9 种流行编程语言的大规模真实世界代码变更和代码审查数据集，并创建了基于这些数据的高质量基准数据集，针对与代码审查活动相关的 3 个关键任务进行评估，实验结果显示，该模型在所有任务中优于先前的最先进的预训练方法。
code reviewpre-training techniquesdatasetmodeltask
发现论文，激发创造
  • 现代代码审查中的人工智能辅助编码实践评估

    AutoCommenter 是一个自动学习和执行编码最佳实践的系统，针对四种编程语言进行了实现和评估，结果表明其对开发者工作流程有积极影响，并述及了在大规模部署中所面临的挑战和相应的经验教训。

    May, 2024

  • 源代码评审人员推荐的大规模研究

    本文通过在 Github 和 Gerrit 代码仓库中挖掘数据进行大规模实验比较两种主要的代码审查员推荐算法 (RevFinder 和基于朴素贝叶斯的方法) 的性能，以确定最佳的代码审查员。我们发现：1）没有一个模型适用于所有项目；2）不同的代码仓库会对推荐结果产生影响；3）利用 Gerrit 中可用的子项目信息可以改善推荐结果。

    Jun, 2018

  • 利用大型语言模型自动化生成补丁集合从代码审查评论中

    评估预训练的大型语言模型（LLMs）在复制开发人员在代码审查评论中传统执行的任务方面的效果，通过比较它们生成的修补程序集与相同代码库的人工生成的修补程序集的历史数据，来确定 LLMs 的反馈的准确性、相关性和深度，从而评估它们支持开发人员应对代码审查评论的准备程度。

    Apr, 2024

  • 基于代码审查的自动化程序修复：预训练 Transformer 模型的表现如何？

    探究如何利用预训练语言模型对自动程序修复进行改进，研究表明采用 PLBART 和 CodeT5 两种预训练模型 Fine-Tune 后，能在自然语言的程序修复数据集上显著提高性能，其中预训练机制对性能提升至关重要。

    Apr, 2023

  • CodeEditor：使用预训练模型学习编辑源代码

    本研究提出了一种专门针对代码编辑的预训练任务，并提出了一个名为 CodeEditor 的有效预训练代码编辑模型。 通过该任务的预训练进一步提高了代码编辑模型的性能和泛化能力，并优于 SOTA 基线。

    Oct, 2022

  • 代码预训练提升语言模型的实体跟踪能力

    最近的研究提供了间接证据，表明在代码上预训练语言模型可以提高模型在自然语言中跟踪语篇实体状态变化的能力。本研究通过比较基模型和在其基础上用额外代码数据进行训练的模型在实体跟踪性能上的差异，系统地测试了这一论点。此外，我们还扩展了分析，考察了数学训练和对齐调优这两种高度结构化的数据类型对模型可用性的影响。我们发现，额外训练大量代码的模型明显优于基模型，而在不同的模型类型中，额外的数学训练和对齐调优并没有一致的好处。

    May, 2024

  • 基于 Transformer 的代码质量评估

    使用 CodeBERT 自动为 Java 代码分配质量评分，同时探索不同模型和训练范式对于代码质量评估的准确性，并使用新颖数据集评估预测的质量，发现基于 Transformer 模型的任务适应预训练方法比其他技术更高效地解决该任务。

    Sep, 2023

  • 基于代码更改的自然语言注释更新学习

    本文提出一种通过学习不同的自然语言表征和代码表征之间的关系，生成一系列编辑操作来更新现有自然语言注释的方法，并在开源软件项目集合上进行多个实验和对比，结果表明该模型性能优于其他算法。

    Apr, 2020

  • GrACE: 使用相关代码编辑进行生成

    使用先前的代码编辑知识赋予了智能代码生成大型语言模型 (LLMs) 先验知识，该模型的生成能力有助于解决代码更改的多样性以及对前期编辑的依赖，与常见的符号和神经方法相比，该方法使 LLMs 的性能显著提高了 29％和 54％。

    May, 2023

  • 代码需要注释：用注释增强代码 LLMs

    我们研究了大型语言模型的编程技能对其性能的影响，并引入了一种新的数据增强方法和筛选策略来提高预训练数据在代码相关的语言模型性能上的表现。实验证明，使用增强数据训练的模型在两个广泛使用的编程技能评估上的表现优于生成评论的模型和没有使用增强数据进行训练的模型。

    Feb, 2024