May, 2019

SuperGLUE: 通用语言理解系统的更粘性基准测试

PDF
TL;DR本文介绍了新的预训练和迁移学习模型和方法在语言理解任务中取得显着性能提升，提出了一个新的基准测试 SuperGLUE，在 GLUE 基准测试的基础上增加难度更大的语言理解任务、一个软件工具包和公开排行榜，可在 super.gluebenchmark.com 上获取。
发现论文，激发创造
  • GLUE：自然语言理解的多任务基准测试和分析平台

    为了实现一种泛用的自然语言理解技术，我们引入了 GLUE 基准测试，它是一种用于评估并分析现有 NLU 任务中模型性能的工具。该测试套件是模型无关的，提供手工诊断测试套件以进行详细的语言分析。我们评估了基于当前的多任务和迁移学习方法的基线，发现它们并没有立即在将单独的模型训练于每个任务上的总体表现上取得大幅度的改进，这表明在开发泛用且稳健的自然语言理解系统方面有改进的空间。

    Apr, 2018

  • RussianSuperGLUE: 俄语语言理解评测基准

    本文介绍了一种先进的俄语语言理解评估基准 ——RussianGLUE，并提供了包括基线、人类评估、开源框架和总排行榜等丰富内容。我们还比较了多语言模型在适应性诊断测试集上的表现，并提出了进一步扩展或评估最先进模型的第一步。

    Oct, 2020

  • 俄语 SuperGLUE 1.1：修正俄语 NLP 模型未吸取的教训

    该论文介绍了俄语 SuperGLUE 1.1，这是一个基于 GLUE 风格的更新版基准测试，专为俄语 NLP 模型设计。新版包括了各种技术、用户体验和方法论的改进，并提升了基准测试工具包，以支持各种架构的 NLP 模型。同时，作者还将 SuperGLUE 整合到开源模型的产业评估框架 MOROCCO 中，以加权平均指标、推理速度和占用内存等多种指标来评估模型的性能。

    Feb, 2022

  • bgGLUE：保加利亚常规语言理解评估基准

    bgGLUE 是一种 Bulgarian 通用自然语言理解（NLU）评估基准，用于评估语言模型在保加利亚语 NLU 任务中的表现，旨在进一步发展 Bulgarian NLU 模型。

    Jun, 2023

  • GeoGLUE：地理语言理解评估基准

    本文介绍了 GeoGLUE 基准评估，通过从开放资源中收集数据并引入六个自然语言理解任务来创建以地理文本为基础的基准测试，包括地理文本相似性、地理要素标记、地理组合分析、地理实体对齐等评估实验和分析基线的有效性和重要性。

    May, 2023

  • DialoGLUE：面向任务导向对话的自然语言理解基准

    本文介绍了 DialoGLUE，一种公共基准，旨在鼓励对话研究的表示转移，领域自适应和样本有效任务学习。通过 DialoGLUE 基准，基线方法和评估脚本，我们希望促进发展更为通用的任务导向型对话模型。

    Sep, 2020

  • LexGLUE: 英文法律语言理解基准数据集

    介绍 Legal General Language Understanding Evaluation（LexGLUE）基准测试和对几个通用和以法律为导向的模型的评估和分析，证明后者在多个任务中始终提供性能改进。

    Oct, 2021

  • 自进化：实现语言模型高效预训练与下游适应的一项探究

    该研究报告描述了一种基于自进化学习的预训练语言模型和 prompt transfer 技术，将知识转移到下游任务以实现超越 SuperGLUE 排行榜的表现。2022 年 10 月，该方法在 4/8 个任务上实现了最新的最先进性能，平均得分为 91.3。

    Dec, 2022

  • 人类与布偶的对比：GLUE 基准测试人类表现的保守估计

    使用众包的方法，评估研究人员在 GLUE 基准测试中的人类表现，表明现代神经网络方法在低资源句子分类方面仍存在挑战。

    May, 2019

  • XGLUE：跨语言预训练、理解和生成的新基准数据集

    本文介绍了 XGLUE 数据集，它是一个可用于训练大规模跨语言预训练模型和评估其在多样的跨语言任务中表现的新的基准数据集。与 GLUE 不同的是，XGLUE 提供了 11 种多样化的任务来覆盖自然语言理解和生成等问题，同时为每个任务提供了多种语言的标注数据。本文还扩展了最近的跨语言预训练模型 Unicoder，以涵盖自然语言理解和生成任务，并在 XGLUE 上作为强基线进行评估。此外，本文还评估了多语言 BERT、XLM 和 XLM-R 的基础版本（12 层）进行比较。

    Apr, 2020