Dec, 2023

大型语言模型进行母语识别

PDF
TL;DR使用 LLMs（如 GPT-4）进行原生语言识别（NLI）的实验结果表明，GPT 模型在 NLI 分类上表现出色，在零样本设置下取得了 91.7％的性能记录。与以往的完全监督设置不同，LLMs 可以在无需限制于已知类别的情况下执行 NLI，这在实际应用中具有实际意义。此外，LLMs 还能提供选择的理由，根据拼写错误、句法模式和直接翻译的语言模式进行推理。
native language identificationllmsgpt-4nli classificationzero-shot setting
发现论文，激发创造
  • 使用 Transformer Adapter 扩展原声语言识别能力

    本文介绍了一种基于 Transformer 解码器（GPT-2）的深度生成方法，以解决母语识别（NLI）的实际问题与限制，引入了 Transformer 适配器以提高内存限制和训练 / 推理速度，以扩展 NLI 应用于生产。

    Nov, 2022

  • 非英语问题下不要信任 GPT

    本文提供了一种系统方法来衡量 LLMs 在多语言环境下的表现差异，探讨了 LLMs 的跨语言概括现象，结果表明 GPT 在多语言环境下表现出高度翻译一致的行为。

    May, 2023

  • 土耳其母语识别

    本文首次将母语辨识（NLI）应用于土耳其语。我们使用土耳其学习者语料库，结合三种句法特征（CFG 生成规则、词性 n-gram 和功能词）来证明它们在该任务中的有效性。

    Jul, 2023

  • 利用可解释机器学习揭示跨语言间的事实

    本研究采用可解释的机器学习算法，分析了母语辨别任务的内部机制，以获得其分类决策的解释，并通过三个数据集研究了词汇、形态、句法和统计等语言特征在母语辨别和非母语辨别任务中的有效性。

    Aug, 2022

  • 基于大型语言模型的教育调查反馈分析

    本研究评估了大型语言模型（LLMs）GPT-4 和 GPT-3.5 在教育反馈调查中提供洞察力的潜力，并应用自然语言处理的方法，通过多标签分类、提取、主题分析和情感分析等任务来实现教育中常见的目标，从而展示了 LLMs 在洞察力提取方面的巨大潜力。

    Sep, 2023

  • 揭示大型语言模型在 Transformer 模型之上对孟加拉语自然语言推理的优势：一项全面研究

    通过综合评估，本研究在低资源语言（如孟加拉语）的自然语言推理任务中评估了知名大型语言模型和最先进模型的性能，发现虽然大型语言模型在少样本情况下可以达到与微调后最先进模型相媲美或优越的性能，但需要进一步研究来提高我们对大型语言模型在类似孟加拉语等资源有限的语言中的理解。该研究强调了在不同语言环境中探索大型语言模型能力的持续努力的重要性。

    May, 2024

  • 生物医学自然语言处理中的大型语言模型：基准、基线和建议

    本研究通过实验验证了 GPT-3 和 GPT-4 在 8 个 BioNLP 应用中的性能表现，并对其识别错误进行了分析，提出了在 BioNLP 应用中使用 LLMs 的建议。

    May, 2023

  • 自然语言编程学习

    使用自然语言作为一种新的编程语言来描述任务过程，让其易于被人类和 LMMs 理解，并进一步借助 Learning to Program (LP) 方法通过学习来自训练集中的自然语言程序，优化复杂任务的问题解决能力，该方法在 AMPS 和数学两个数据集上的有效性得到验证，证明其性能超过直接零样本测试表现 18.3%。

    Apr, 2023

  • 使用 Big Bird 嵌入进行母语识别

    本研究探讨了输入大小作为限制因素，并展示了使用 Big Bird 嵌入方法训练的分类器在 Reddit-L2 数据集上明显优于语言特征工程模型的性能，此方法的有效性和计算效率使其成为未来 NLI 研究的有希望的途径。

    Sep, 2023

  • 语言模型：少样本多语言学习者

    通过对 GPT 和 T5 模型进行跨语言分类，本论文发现预训练模型在少量英语样本的情况下可以预测非英语测试样本，且在跨语言预测方面表现显著优于随机预测，并与现有的最先进的跨语言模型具有竞争力。

    Sep, 2021