MMJun, 2021

阅读 StackOverflow 鼓励作弊：添加问题文本改进抽取式代码生成

PDF
TL;DR使用 CoNaLa 语料库和 BART 模型来回答编程问题，利用问题提问和意图，结合所挖掘的 CoNaLa 数据，取得了 BLEU 达到 35.32 的优良成绩，并通过对比实验证明了 BART 模型的在无监督多模态学习和摘要提取方面的优势。
programming questionstackoverflowintentconala datasetbart
发现论文，激发创造
  • 利用预训练技术引入外部知识进行自然语言转码

    本研究通过整合来自 StackOverflow 和编程语言 API 文档等两个不同来源的知识，采用数据增强和检索重采样等方法，提高了 CoNaLa 代码生成测试集上的 BLEU 分数，从而探索了将自然语言转为 Python 代码的任务的有效性。

    Apr, 2020

  • CoSQA: 2 万 + Web 查询用于代码搜索和问题回答

    通过引入 CoSQA 数据集，我们提出了一种名为 CoCLR 的对比学习方法，该方法的作用是作为一种数据增强器，以产生更多人工生成的训练实例，从而增强查询 - 代码匹配，实验表明，使用 CoSQA 进行训练可将代码问题回答的准确性提高 5.1％，并且使用 CoCLR 进一步提高 10.5％。

    May, 2021

  • 减少先验知识、增加单语数据的自然语言代码生成

    通过利用较大的单语语料库，本研究调查了一个基于通用 transformer 的 seq2seq 模型是否可以在最小限度的代码生成特定归纳偏差下实现与其他语言模型相当的性能，结果显示其在 Django 上实现了 81.03％的完全匹配准确性和 32.57 的 CoNaLa BLEU 分数，均达到了我们所知道的最好水平，这为在实践中构建准确的语义解析器提供了可能更容易的途径。

    Jan, 2021

  • 关于对话式问答的技术报告

    使用 RoBERTa + AT + KD 模型，本文在 CoQA 数据集上进行对话问答，单模型达到 90.4 的 F1 得分，比现有最先进的单模型高 2.6%。

    Sep, 2019

  • 利用可提取问答变换器构建实际谈话语料库的意图模式

    本研究提出了一种无监督的自动化 pipeline，基于问答模型和聚类方法，能够从真实的对话数据中抽取意图并建立意图分组分类体系，验证结果表明该方法能够解决自然语言理解中的意图识别问题，实现了超过 85% 的区分准确度。

    Aug, 2022

  • 使用 Transformer 将自然语言转化为代码

    本文使用 CoNaLa 数据集，利用自注意力变换器结构解决了从自然语言描述中生成代码片段的问题，并表明其表现优于循环注意力编码器解码器，使用修改后的反向翻译和周期一致损失以端到端的方式训练模型，实现了 16.99 的 BLEU 分数，超过了 CoNaLa 挑战的先前基线。

    Feb, 2022

  • 学习如何回答代码的语义查询

    本研究构建了一个名为 CodeQueries 的数据集，并提出了基于神经网络的代码语义查询系统，结果表明神经模型可以对代码语法错误进行容错，但代码规模增大、存在不相关的代码以及训练例子减少均会限制模型性能。

    Sep, 2022

  • BARTScore：将生成文本作为文本生成进行评估

    本研究利用预训练的序列到序列模型建立生成文本评估系统，并提出了一种与可靠的度量标准 BARTScore，可灵活应用于不同角度的文本评估，包括信息性，流畅性和事实性等领域，通过在 16 个数据集和 7 个不同角度的测试中超越其他评测度量标准。

    Jun, 2021

  • 会话问答内容理解的实证研究

    该论文研究基于对话问答模型中标准数据集对模型的语义理解能力的反应度以及对话内容对模型回答问题的影响，并指出了 QuAC 和 CoQA 两个常用数据集的一些 潜在问题及其存在的偏见。

    Sep, 2019

  • 让人沮丧地简单的自然问答

    文章研究了问题回答领域（Question Answering）中各种算法模型以及增强数据方法，提出了基于 Attention-over-Attention 等方法的组合以及数据增强和集成策略，可在 SQuAD 等基准数据集上取得超人的表现。但在最新的自然问题基准数据集上，相对简单的 BERT 迁移学习方法取得了超过先前表现最优系统 1.9 F1 点的优异表现，并且添加集成策略进一步提高了 2.3 F1 点。

    Sep, 2019