ACLSep, 2018

Texar: 一款模块化、通用、可扩展的文本生成工具包

PDF
TL;DRTexar 是一个开源工具包，支持广泛的文本生成任务，旨在将任何输入转化为自然语言，包括机器翻译、摘要、对话、内容操作等。它以模块化、通用性和可扩展性为设计目标，提取了不同任务和方法学的共同模式，创建了高度可重用模块的库，并允许任意模型架构和算法范例。支持 TensorFlow 和 PyTorch，并在 Apache License 2.0 下发布。
发现论文，激发创造
  • TextBox：文本生成的统一，模块化和可扩展框架

    本文介绍了一个名为 TextBox 的开源库，旨在提供一种统一、模块化和可扩展的文本生成框架。该库支持广泛的文本生成任务和模型，并且通过将模型架构、推断和学习过程适当地分解为高度可重用的模块，保持了足够的模块化和可扩展性，使用户可以轻松地将新模型整合到我们的框架中。

    Jan, 2021

  • Texygen: 文本生成模型基准测试平台

    Texygen 是一个支持对开放域文本生成模型进行研究的基准测试平台，它实现了大多数文本生成模型，并涵盖了一组用于评估生成文本的多样性、质量和一致性的度量标准。该平台有助于标准化文本生成研究，促进研究人员共享调整优化的开源实现，并改善未来文本生成研究工作的再现性和可靠性。

    Feb, 2018

  • 章鱼：阿拉伯语自然语言生成的多任务模型和工具包

    我们提出了一种新颖的阿拉伯文本到文本的 Transformer 模型 AraT5v2，通过使用大量和多样化的数据进行系统化训练，并探索了多种预训练策略，包括无监督、有监督和联合训练，在单任务和多任务设置下，超过了竞争基准，进一步开发了基于 Python 的 Octopus 工具包和命令行工具，专为八个阿拉伯生成任务定制，利用单个模型。我们在公开代码库上发布了这些模型和工具。

    Oct, 2023

  • TEXTOIR：文本开放意图识别的综合可视平台

    TEXTOIR 是一种视觉化的文本意图识别平台，由开放意图检测和开放意图发现两个主要模块组成，并包含数据和模型管理、培训、评估和分析的可视化工具。

    Sep, 2021

  • CoTexT: 带有代码 - 文本变换器的多任务学习

    CoTexT 是一种预先训练的基于 Transformer 的编码器 - 解码器模型，用于学习自然语言与编程语言之间的代表性上下文，支持下游自然语言 - 编程语言任务，如代码概述 / 文档化，代码生成，缺陷检测和代码调试，并在 CodeXGlue 数据集中取得 SOTA 结果。

    May, 2021

  • Unitxt: 用于生成式人工智能的灵活、可共享和可复用的数据准备与评估

    Unitxt 是一个创新的库，用于可定制的文本数据准备和评估，适用于生成式语言模型。它通过模块化组件将处理流程解构，实现易定制和共享，促进现代文本数据工作流中的合作和探索。

    Jan, 2024

  • AraT5：用于阿拉伯语言生成的文本对文本变换器

    应用多语言 T5 模型在阿拉伯语中进行了评估，针对 7 项任务进行了新颖的基准测试，并使用最新算法，为该领域提出了新型的强大模型

    Aug, 2021

  • TextBrewer: 自然语言处理的开源知识蒸馏工具包

    TextBrewer 是一种用于自然语言处理的知识蒸馏工具包，在不同的神经网络模型和各种监督式学习任务中具有简单且统一的工作流程，它利用一组预定义的蒸馏方法和自定义的代码进行扩展，并且可以在类似的参数数量的公共蒸馏 BERT 模型中实现具有可比较甚至更高结果的效益。

    Feb, 2020

  • TERMinator：科学文本处理系统

    本文介绍了一个包括两种任务的数据集，以及一个名为 TERMinator 的工具，用于从科技文本中提取实体和它们之间的语义关系，并研究语言模型对术语识别的影响和不同方法之间的比较。实验证明，预先训练在目标语言上的语言模型并不总是表现最好。此外，添加一些启发式方法可以提高特定任务的整体质量。

    Sep, 2022

  • ArTST：阿拉伯文本和语音转换器

    我们提供了 ArTST，这是一个预先训练的阿拉伯文本和语音转换器，支持用于阿拉伯语言的开源语音技术。该模型的架构遵循最近发布的英语统一模态框架 SpeechT5，并且专注于现代标准阿拉伯语（MSA），未来版本计划将该模型扩展为方言和混合阿拉伯语。我们从头开始对 MSA 语音和文本数据进行了预训练，并对以下任务进行了微调：自动语音识别（ASR），文本到语音合成（TTS）和口语方言识别。在与 SpeechT5 以及先前报告的结果在这些任务中的比较实验中，ArTST 在所有三个任务中表现与或超过当前最先进技术水平。此外，我们发现我们的预训练有利于泛化，尤其在资源匮乏的 TTS 任务中表现明显。预训练模型以及微调后的 ASR 和 TTS 模型已发布供研究使用。

    Oct, 2023