Sep, 2019

多模态注意力网络学习用于语义源代码检索

PDF
TL;DR本文提出了一种新的多模式注意力网络（MMAN）来解决代码检索过程中的两个主要问题：缺少结构化特征以及深度学习方法的可解释性，其中.MMAM 能够准确地从大规模的代码库中检索代码片段，同时在实际数据集上也比当前最先进的方法表现更优秀。
code retrievalopen-source repositoriesstructured featuresdeep learningmulti-modal attention network
发现论文，激发创造
  • 电商检索中查询意图分类的多颗粒匹配注意力网络

    该研究提出了一个具备多粒度匹配特征的多粒度匹配关注网络 MMAN，它包含三个模块：自匹配模块，字符级匹配模块和语义级匹配模块，可以成功地为查询意图分类消除查询和类别之间的表达差异，并且在离线和在线 A / B 实验中表现出明显的优越性。

    Mar, 2023

  • AST-MHSA：使用多头自注意力进行代码摘要

    AST-MHSA 是一个使用多头注意力机制从抽象语法树中提取重要语义信息的模型，它包括编码器和解码器两个主要组件，编码器将代码的抽象语法树作为输入生成隐藏状态序列，解码器以这些隐藏状态为输入生成代码的自然语言摘要。

    Aug, 2023

  • 基于混合图神经网络的检索辅助代码摘要生成

    本研究提出了使用检索增强机制和动态图神经网络结构来生成源代码摘要的方法，并在大规模的开源项目数据集上进行了实验，在 ROUGE-L，BLEU-4 和 METEOR 等方面取得了最先进的结果。

    Jun, 2020

  • 神经代码搜索的多模态表征

    本文介绍了一种基于树序列化方法和多模态学习模型的语义代码搜索技术，实验结果表明，这种技术可以有效提高代码搜索性能。同时提出衡量代码信息完整度的量化指标来辅助实验结果理解。

    Jul, 2021

  • 面向场景感知对话系统的多步骤多模态注意力网络

    本文提出了一种基于循环神经网络的多步关注机制的多模态联合注意网络（JMAN），用于对视频进行推理，该模型在每个推理过程中联合考虑了视觉和文本表示，以更好地集成两种不同模态的信息。与 AVSD 组织发布的基线相比，我们的模型在 ROUGE-L 得分和 CIDEr 得分上相对提高了 12.1％和 22.4％。

    Jan, 2020

  • 基于深度图匹配和搜索技术的语义代码检索

    本文提出了一种基于图神经网络的深度图匹配与搜索模型，应用于语义代码检索任务。该模型通过交叉注意力的语义匹配操作，不仅能够捕获查询文本和代码片段的更多结构信息，还能够学习它们之间的细粒度相似性，并在两个公共代码检索数据集中取得了比基线模型显著更好的效果。

    Oct, 2020

  • 自我关注神经架构，利用多任务学习实现代码自动完成

    本文提出了自注意力神经体系结构，采用多任务学习方式，以解决代码补全中的结构性保留和长期依赖问题，并与最先进的方法进行了比较。

    Sep, 2019

  • CSSAM: 通过代码语义和结构的关注匹配进行代码搜索

    本文提出了一个名为 CSSAM 的代码搜索模型，该模型引入了语义和结构匹配机制，实现了跨序列的高纬度空间对齐，并使用残差相互作用和代码语义表示图等方法增强了代码和相应查询文本之间的粘合度。实验结果表明，CSSAM 在两个公开数据集上显著优于基准方法，达到了最高的 SR@1/5/10、MRR 和 NDCG@50。

    Aug, 2022

  • 基于变压器的多尺度多模态方法用于源代码摘要生成

    本研究旨在提出一种基于多尺度、多模态方法和 Transformer 的源代码摘要生成模型 (M2TS)，该模型使用多尺度 AST 特征提取方法、代码词法特征和跨模态融合方法，以更全面准确地抓取 AST 的结构特征，同时融合语法和上下文语义信息，从而生成源代码的高质量摘要并在实验证明了其优于当前最新研究。

    Mar, 2022

  • TreeMAN: 增强树型多模态注意力网络用于 ICD 编码

    本研究提出了一种基于 Tree-enhanced Multimodal Attention Network (TreeMAN) 的方法，将 EHR 中的结构化医疗数据和文本特征融合成多模态表示。通过决策树学习，TreeMAN 能够更好地捕捉 ICD 编码的决定性信息。实验证明，该方法优于现有 ICD 编码方法。

    May, 2023