Apr, 2022

利用字符语言模型和命名实体识别生成代码注释

PDF
TL;DR本文提出 LAnguage Model and Named Entity Recognition (LAMNER) 模型，通过字符级别语言模型来学习代码单元的语义表示，并使用命名实体识别模型来学习不同类型的代码标记的结构属性，在编码器 - 解码器结构中生成代码注释。在流行的 Java 数据集上进行评估，结果表明 LAMNER 可以有效地生成注释，并在 BLEU-1、BLEU-2、BLEU-3、BLEU-4、ROUGE-L、METEOR 和 CIDEr 等四种常用度量标准上改进了最佳基准模型的 14.34％，18.98％，21.55％，23.00％，10.52％，1.44％和 25.86％。同时，融合 LAMNER 的代码表示和基准模型，融合模型显示出优于非融合模型的结果。人工评估进一步表明，LAMNER 可以生成高质量的代码注释。
code comment generationlanguage modelnamed entity recognitionencoder-decoder architecturejava dataset
发现论文，激发创造
  • 提升代码大型语言模型的自然语言能力

    提出了一个新的框架，通过集成传统自然语言处理工具，从自然语言需求文本中提取关键词短语，并生成目标代码以解决需求，从而有效提高代码大型语言模型的性能。通过创建一个新的多自然语言代码生成基准测试集，实验证明了该框架的有效性。

    Jan, 2024

  • NuNER：通过 LNN 标注数据进行实体识别编码器预训练

    利用大型语言模型，本研究表明如何创建 NuNER，这是一种专注于命名实体识别（NER）任务的紧凑语言表示模型，可以进行低数据需求的微调，该模型在 few-shot 情景下胜过了类似大小的基础模型，并与更大的语言模型竞争。研究发现预训练数据集的大小和实体类型多样性是取得良好性能的关键。我们将 NuNER 视为最近由语言模型解锁的任务特定基础模型之一。

    Feb, 2024

  • llmNER：利用大型语言模型的（零 | 少）样本命名实体识别

    llmNER 是一个用于实现 LLMs 的零射击和少射击 NER 的 Python 库，通过提供易于使用的接口，llmNER 可以组合提示、查询模型，并解析 LLM 返回的完成结果。该库还通过提供简单的接口来测试多个变量，让用户可以高效地执行提示工程。我们在两个 NER 任务上验证了我们的软件，以展示该库的灵活性。llmNER 旨在推动上下文​​学习研究的界限，消除提示和解析步骤的障碍。

    Jun, 2024

  • LTNER：基于上下文实体标记的大型语言模型命名实体识别

    LLMs 在自然语言处理中的应用已成为近两年的热门趋势，然而，对于某些 NLP 任务，如 NER，在与监督学习方法相比较时，LLMs 的性能仍然不足以胜任。我们的研究开发了一种名为 LTNER 的 NER 处理框架，该框架融入了一种革命性的上下文化实体标记生成方法，通过利用成本效益高的 GPT-3.5 以及无需额外训练的上下文学习，显著提高了 LLMs 在处理 NER 任务时的准确性。在 CoNLL03 数据集上的 F1 得分从初始的 85.9% 增加到 91.9%，接近了监督微调的性能，这一结果增进了对 LLMs 潜力的深入认识。

    Apr, 2024

  • 代码需要注释：用注释增强代码 LLMs

    我们研究了大型语言模型的编程技能对其性能的影响，并引入了一种新的数据增强方法和筛选策略来提高预训练数据在代码相关的语言模型性能上的表现。实验证明，使用增强数据训练的模型在两个广泛使用的编程技能评估上的表现优于生成评论的模型和没有使用增强数据进行训练的模型。

    Feb, 2024

  • 检索和优化：基于示例的神经评论生成

    本文提出了一种基于 IR 技术和模板的 API 注释生成方法。该方法将机器翻译模型迁移到注释生成任务中并且通过引入仅对模板执行的代码生成步骤，使模型更加准确。在 Java 程序员中取得了 state-of-the-art 的回归结果。

    Oct, 2020

  • 使用 BERT 和 Longformer 检测代码注释不一致性

    利用 BERT 和 Longformer 模型检测自然语言告知语境下源代码评论中的不一致性，经过实验验证成功超越多种基线算法并获得与排除语言和词汇特征的最新模型相当的效果，同时探讨使用预训练语言模型检测不一致性和自动更新评论的未来研究方向。

    Jul, 2022

  • 从自然语言文本生成 Java 代码的现有技术方法综述

    本文主要综述了深度学习模型在 Java 代码生成任务中的进展和发展，涉及到自然语言处理、基于 RNN 和 Transformer 的模型、CONCODE 数据集等方面，并对存在的方法、数据集、评估指标、未来发展等方面进行了详细介绍。

    Jun, 2023

  • 具备编译器反馈的可编译神经代码生成

    本文提出了一种名为 COMPCODER 的三阶段编译反馈机制，采用编译器反馈来生成可编译的代码，实验结果显示该方法的成功编译率从 44.18％提升至 89.18％。

    Mar, 2022

  • 代码到注释的翻译：数据、度量、基准和评估

    本文在研究代码注释生成中，分析了采用翻译模型的可行性以及 BLEU 得分的校准方法，并提出了基于信息检索方法的合理基准线以及未来研究方向的建议。

    Oct, 2020