Mar, 2021

应用 CodeBERT 对 Java 简单缺陷进行自动化程序修复

PDF
TL;DR本文提出一种基于 CodeBERT 的自动化程序修复方法，使用 ManySStuBs4J 小和大数据集对模型进行微调，能够准确地预测开发人员在 19-72％的情况下实现修复代码，并可以在不到一秒钟的时间内自动生成修复程序。
software engineeringautomated program repaircodebertneural architecturemanysstubs4j
发现论文，激发创造
  • 基于 Transformer 的代码质量评估

    使用 CodeBERT 自动为 Java 代码分配质量评分，同时探索不同模型和训练范式对于代码质量评估的准确性，并使用新颖数据集评估预测的质量，发现基于 Transformer 模型的任务适应预训练方法比其他技术更高效地解决该任务。

    Sep, 2023

  • 使用预训练 Transformer 生成错误修复

    DeepDebug 是数据驱动的程序修复方法，其可以从 GitHub 代码库中挖掘的实际 Java 方法中学习检测和修复错误的方法。通过将错误修补构建为序列到序列的学习任务，它实现了两个步骤，即去噪预训练和有监督的微调。本方法显示出比以前的工作更好的异常检测能力，并且可以使用通用解析器进行语言无关的方法。

    Apr, 2021

  • 基于代码审查的自动化程序修复：预训练 Transformer 模型的表现如何？

    探究如何利用预训练语言模型对自动程序修复进行改进，研究表明采用 PLBART 和 CodeT5 两种预训练模型 Fine-Tune 后，能在自然语言的程序修复数据集上显著提高性能，其中预训练机制对性能提升至关重要。

    Apr, 2023

  • 通过神经机器翻译在野外学习修复错误补丁的实证研究

    通过挖掘 GitHub 上项目代码的变更历史记录，使用神经机器翻译技术进行修复漏洞的学习，设计并训练了一个 Encoder-Decoder 模型，可以在瞬间模仿各种不同的 AST 操作，并生成候选修复程序，可在实际环境中修复数以千计的独特故障方法，并预测出开发人员生成的固定补丁的 9-50%。

    Dec, 2018

  • 使用大型语言模型和形式验证自动修复 AI 代码

    下一代 AI 系统需要强有力的安全保证。本报告研究了神经网络和相关内存安全性质的软件实现，包括空指针引用、越界访问、double-free 和内存泄漏。我们旨在检测这些漏洞，并借助大型语言模型自动修复它们。为此，我们首先通过程序突变的自动化过程，将现有的神经网络代码数据集 NeuroCodeBench 的规模扩大到约 81k 个程序。然后，我们使用最先进的软件验证器 ESBMC 验证突变的神经网络实现的内存安全性。每当 ESBMC 发现漏洞时，我们会调用一个大型语言模型来修复源代码。在最新的任务中，我们比较了各种最先进的提示工程技术，以及重复调用大型语言模型的迭代方法的性能。

    May, 2024

  • 利用神经符号转换网络进行语义化代码修复

    通过使用语义修复的统计模型和神经网络，我们的研究成功地预测代码中的错误位置，并将其修复，从而提高了修复的准确性。

    Oct, 2017

  • CodeBERT：编程和自然语言的预训练模型

    CodeBERT 是一种双模态预训练模型，支持自然语言和编程语言应用，基于 Transformer 神经架构，通过替换标记检测的预训练任务进行训练，表现出卓越的性能和前瞻性。

    Feb, 2020

  • 基于 Transformer 的神经文本表示技术在错误分配中的比较研究

    本研究通过使用 DeBERTa 技术，对 53 年的开源数据集进行了自动故障调整的任务进行了量化和定性分析，结果表明 DeBERTa 是在开发者和组件分配等任务中最有效的技术。

    Oct, 2023

  • 利用 CodeBERT 和随机森林回归器自动评分 C 编程作业

    利用深度学习的自动评分系统通过将程序文本输入转换为向量并利用多个模型进行分析，成功评估了 C 编程作业，取得了 1.89 的均方根误差。

    Sep, 2023

  • 使用 OpenAI 的 Codex 进行自动程序修复：评估 QuixBugs

    本文研究了 OpenAI 的 Codex 是否能够定位和修复软件中的错误，发现 Codex 的泛用性使其非常有效，而且在修复 Python 中的错误方面具有一定的优势。

    Nov, 2021