Jul, 2020

关于神经程序模型对语义保持程序转换的普适性

PDF
TL;DR本文通过对三个 Java 数据集和三种最先进的神经网络代码的比较，来评估神经程序模型在语义保持转换下的一般性，并发现神经程序模型在语法和外部形象不同但语义相同的程序上表现不佳。
neural program modelssource code analysisgeneralizabilitymethod name predictionsemantic-preserving transformations
发现论文，激发创造
  • 在保持语义不变的转换下评估神经程序分析器的泛化能力

    本文通过大规模的评估，研究了两种常见的神经程序分析器的通用性，并发现在许多情况下神经程序分析器的泛化能力是有限的，这提供了研究神经程序分析器的鲁棒性的初步基础。

    Apr, 2020

  • 源代码模型的语义鲁棒性

    研究表明，在源代码模型中，深度神经网络容易受到对代码功能保留的参数语义程序转换序列引起的对抗性示例的影响，我们发现对抗性训练可以显著提高模型的鲁棒性。

    Feb, 2020

  • 动态神经程序嵌入用于程序修复

    提出了一种基于程序执行轨迹学习的新型语义程序嵌入，相比于基于程序语法的嵌入，可以更准确地捕捉程序语义，并用于预测学生程序提交中的错误类型，并展示了通过该语义嵌入预测进行搜索的效率显著提高的结果。

    Nov, 2017

  • 神经程序合成中的组合泛化和分解

    本文介绍了一种测量神经程序合成方法能否组合泛化的方法，引入了基于两个流行数据集的任务基准套件，以评估合成器在组合泛化方面的能力，最后通过新的注意机制来改进变压器模型的组合泛化能力

    Apr, 2022

  • 神经网络如何理解程序？

    本文探讨了基于 NLP 预训练技术的代码表示学习的进展，提出了一种新的程序语义学习模式，即模型应该学习由与操作语义基本操作对齐的表示和不可或缺的环境转换信息构成的信息。为了验证我们的建议，我们提出了一个名为 OSCAR 的分层 Transformer 预训练模型，通过从 IR 和静态分析导出的编码表示中学习来表示基本操作和环境转换信息，证明了 OSCAR 在许多实际软件工程任务中理解程序语义的杰出能力。

    May, 2021

  • 用于建模源代码编辑的神经网络

    本研究开发了多种神经网络模型，利用合成数据测试模型的编辑模式学习能力，从原型生成下一步的编辑行为。文章提出了一种新颖的 “注意力” 和 “指针” 网络的组合模型能够最大化地提高性能和可伸缩性，应用结果初步证明了开发可以习得预测未来编辑的工具的可行性。

    Apr, 2019

  • 通用代码生成的句法神经模型

    本文提出了一种新型神经体系结构，它由语法模型支持，旨在将自然语言描述解析为基于 Python 等通用编程语言的源代码，并将其显式地捕获为先验知识，以实现从自然语言描述生成复杂程序的规模化。实验证明，这是一种有效缩放到语言描述的复杂程序的方法，取得了优于以前代码生成和语义解析方法的最新成果。

    Apr, 2017

  • 神经语言模型中的语法推广的系统评估

    我们对神经语言模型的句法知识进行了系统评估，发现模型架构的不同对句法泛化性能产生了显著影响，而不同数据集大小的影响相对较低。

    May, 2020

  • 学习使用图形来表示程序

    本文介绍了如何使用图表示代码的句法和语义结构，并使用基于图的深度学习方法来学习对程序结构进行推理的方法。作者在两个任务上对该方法进行了评估：VarNaming 和 VarMisuse，结果表明使用已知结构的建模方法具有优势，并且可以在许多情况下学习推理有意义的变量名和解决 VarMisuse 任务，并且 VarMisuse 还可以发现成熟开源项目中的错误。

    Nov, 2017

  • 基于图的生成式编码建模

    本研究提出了一种新的基于图的生成模型，可用于产生源代码中的语义有意义的表达式，并在实验中胜过多种强基线模型。

    May, 2018