Sep, 2022

Transformer 模型能否有效地在 StackOverflow 讨论中检测出软件方面？

PDF
TL;DR本文通过对 Benchmark API 数据集的实验探究，发现 Transformer 模型（包括 BERT、RoBERTa、DistilBERT 和 XLNet）在检测文本开发者讨论中的软件方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面方面较基准 SVM 模型有所改进，尤其在性能、安全性、可用性、文档、错误、法律、唯一情感和其他方面。但是，这些模型在掌握某些方面（例如 “社区” 和 “可移植性”）方面会出现错误，并且它们的性能因方面而异。此外，与 DistilBERT 等较小的模型相比，较大的 XLNet 模型在解释软件方面方面方面方面方面方面方面方面方面方面方面较为无效。
developer toolsweb application frameworksapi detectiontransformer modelsperformance improvement
发现论文，激发创造
  • API 方面分析的对比学习

    我们提出了一种新颖的方法 - CLAA - 用于 API 审查中的 API 方面检测，该方法利用了经过监督对比损失目标函数训练的 Transformer 模型。我们使用性能和影响分析来评估 CLAA。性能分析方面，我们利用了从 Stack Overflow 收集的开发者讨论的基准数据集，并将结果与最先进的 Transformer 模型进行比较。我们的实验表明，对比学习可以显著提高 Transformer 模型在检测性能、安全性、可用性和文档等方面的性能。在影响分析方面，我们进行了经验和开发者研究。在随机选择和手动标记的 200 个在线评论上，CLAA 的准确率达到 92%，而 SOTA 基线的准确率为 81.5%。根据我们涉及 10 位参与者的开发者研究，使用 “Stack Overflow + CLAA” 在 API 选择过程中提高了准确性和信心。

    Jul, 2023

  • 基于 Transformer 的神经文本表示技术在错误分配中的比较研究

    本研究通过使用 DeBERTa 技术，对 53 年的开源数据集进行了自动故障调整的任务进行了量化和定性分析，结果表明 DeBERTa 是在开发者和组件分配等任务中最有效的技术。

    Oct, 2023

  • 基于 Transformer 的语言模型用于软件漏洞检测

    本研究探讨了如何利用基于 transformer 的语言模型来检测软件漏洞，研究了在处理具有多个漏洞的 C/C++ 源代码时，这些模型的性能如何，并发现与当时的双向 LSTM 和双向 GRU 等其他模型相比，这些语言模型在漏洞检测方面具有更好的性能指标。此外，该论文还分析了流行的平台来有效地进行微调，并在选择平台时提供了建议。

    Apr, 2022

  • 复杂 NLP 在文本排名中的作用

    研究发现，通过改变输入的顺序和位置信息，掩码语言模型的性能并不会受到影响；相比于句法方面，跨句子关注和更丰富的嵌入捕捉上下文的词义是 BERT 的优势所在。

    Jul, 2022

  • 利用词袋和基于 Transformer 的模型识别代码中的评论相关性

    该论文介绍了针对不同代码段的评论进行分类的任务，使用了不同的特征工程方案和文本分类技术，探索了经典的词袋模型和基于变形金刚的模型的性能，并提到了模型的局限性和改进空间。

    Aug, 2023

  • 基于 Transformer 的情感检测方法

    本研究探讨了采用不同类型的最先进的转换器模型对文本分类的性能，发现其中 RoBERTa 模型在测试数据集上表现最佳，可用于文本中灾难的检测。此外，我们发现预处理技术，词汇表中单词的性质，不平衡标签和模型参数对学习算法的性能产生影响。

    Mar, 2023

  • 自动检测方面的方面情感分析（Auto-ABSA）

    本文提出了一种利用句子中有关方面的辅助句子来帮助情感预测的方法，该方法包括使用多方面检测模型进行方面检测，并将预测出的方面与原始句子组合作为情感分析模型的输入，并通过训练情感分类模型进行领域外的基于方面的情感分析。最终，我们对两个基准模型和我们的方法进行对比，发现我们的方法确实有意义。

    Jan, 2022

  • 基于 Transformer 模型（BERT，ALBERT 和 RoBERTa）在假新闻检测中的性能分析

    该研究探索了 transformer 模型，发现 ALBERT 在检测印尼语假新闻方面表现最佳

    Aug, 2023

  • 通过神经语言模型探索软件自然性

    本文探讨了利用预训练的基于 transformer 的语言模型来对代码进行分析任务的能力，通过对 transformer-based language model 进行 AST 标记任务，得出结论表明其在此任务上的表现较好，并在软件漏洞识别任务中与依赖于编译器的基于图形的方法相比，取得了可比拟的成果。

    Jun, 2020

  • 利用心理语言学特征和 Transformer 提升基于文本的情感检测的泛化能力

    本文采用基于转换器模型和双向 LSTM 网络的方法，结合心理语言学特征进行基于文本的情感检测，在两个基准数据集中表现出可比性，在六个统一情感数据集的迁移学习实验中表现出强大的跨领域泛化功能。

    Dec, 2022