code2vec: 学习代码的分布式表示

Mar, 2018

code2vec: Learning Distributed Representations of Code

Uri Alon, Meital Zilberstein, Omer Levy, Eran Yahav

TL;DR本文介绍了一种基于神经网络模型的代码嵌入方法，通过将代码片段表示为单一的固定长度代码向量，学习抽象语法树中路径的原子表示，并同时学习集合聚合的方法，从而预测代码的语义属性。通过训练一个包含 14M 个方法的数据集，我们证明了该方法的有效性，并通过相应的数据比较表明，该方法比先前的技术有着相对提高超过 75％，是第一个成功预测大型跨项目语料库上的方法名的方法。

Abstract

We present a neural model for representing snippets of code as continuous distributed vectors ("code embeddings"). The main idea is to represent a code snippet as a single fixed-length $\textit{code vector}$, whi

code embeddings abstract syntax tree neural model method names semantic similarities

发现论文，激发创造

神经代码理解：可学习的代码语义表示

本文提出了一种学习代码语义的新颖处理技术，并将其应用于各种程序分析任务中，其中使用的 Embeddings 基于独立于源编程语言的代码的 IR，现有技术不足以强烈理解程序语义。

Jun, 2018

利用源代码的分布式表示进行 C 安全漏洞检测

本文评估了代码表示模型 Code2vec 在 C 源代码中检测安全漏洞任务上的表现，结果表明 Code2vec 在此任务上的表现与预训练 RoBERTa 等简单的基于 Transformer 的方法相比具有可比性，并且优于更为简单的基于 NLP 的方法，并在维持低计算需求的同时达到了 61.43％的准确率。

Jun, 2021

CC2Vec：代码更改的分布式表示

使用人工识别特征并需要为每个任务付出人力劳动的软件补丁现有方法存在缺陷，本文提出一种基于神经网络的 CC2Vec 模型，通过伴随的日志消息学习代码更改的表示，以识别代码更改的层次结构并使用多个比较函数来识别删除和添加代码之间的差异，并证明该模型在多个软件补丁任务中均优于现有技术。

Mar, 2020

使用 code2vec 进行 Java 类的嵌入：来自变量混淆的改进

本论文研究使用机器学习进行源码分析的问题，提出解决标准机器学习方法不能直接用于源代码的问题。作者通过使用 code2vec 嵌入方法来解决问题，但是实验结果表明，变量名对预测结果有较大影响。因此，作者提出了对变量名进行混淆的方法，进一步提高了嵌入模型的准确性，并探索了一种方法将类别层面的信息整合到嵌入模型中。研究结果在源代码分类方面表现出了较好的性能。

Apr, 2020

使用代码快照学习源代码的表征

本文探讨了一种基于输入程序快照的源代码表示 ——Code2Snapshot，对其进行了多种变体的评估，并将其与利用输入程序丰富的语法和语义特征的最先进的表示方法进行了比较，研究表明，在代码概述和分类任务中，Code2Snapshot 的实用性相当于最先进的表示方法，这表明在某些任务中，神经模型可以仅依赖于输入程序的结构而提供高性能。

Nov, 2021

CV4Code: 通过视觉代码表示理解源代码

CV4Code 是一种针对源代码的紧凑而有效的计算机视觉方法，不需要词法分析或语法树解析的步骤，它将代码片段视为二维图像，并使用 ASCII 码点图像表示方法，利用这种方法生成源代码图像非常快速且无冗余，进一步使用卷积神经网络和 transformer 网络学习进行功能预测和检索，实验结果表明，该方法在处理源代码理解任务方面显著优于其他方法。

May, 2022

神经代码搜索的多模态表征

本文介绍了一种基于树序列化方法和多模态学习模型的语义代码搜索技术，实验结果表明，这种技术可以有效提高代码搜索性能。同时提出衡量代码信息完整度的量化指标来辅助实验结果理解。

Jul, 2021

Skip-Thought 向量

本研究提出了一种无监督学习的句子编码器，使用连续的文本数据训练编码器 - 解码器模型，并通过线性模型对其进行了 8 项任务的评估，结果表明该编码器具有高度泛化的句子表示能力，可在实践中发挥良好的效果。

Jun, 2015

使用代码语法特征的分布式表示进行测试用例推荐

通过利用结构和语义特性，我们提出了一种自动化方法来推荐对开发人员最相关且最有用的单元测试，从而显著提高软件测试过程的效果和效率。使用神经网络将源代码方法和单元测试转化为分布式表示，并根据嵌入向量的相似度，识别出最相似的嵌入方法和相关单元测试作为最相似的推荐。方法在 Methods2Test 数据集上取得了良好的结果，推荐的测试用例减少了开发人员生成预期测试用例的工作量。

Oct, 2023

使用 CodeSearchNet 语料库学习深度语义模型进行代码搜索

本文提出了一种新颖的深度语义模型，利用多模式来源和特征提取器的效用，将交叉语言嵌入与大批量和难样例挖掘结合起来，结合不同的学习表示来增强表示学习，以解决语义代码搜索任务，该模型在 CodeSearchNet 语料库上训练并在保留数据上评估，取得了 0.384 NDCG 的优异成绩，并在该基准测试中获得第一名。

Jan, 2022