May, 2023

符号调整改善语言模型的上下文学习

PDF
TL;DR我们提出了符号调整 - 在上下文输入标签对上细调语言模型，在这些对中，自然语言标签（例如 “正 / 负情感”）被替换为任意符号（例如 “foo/bar”）。通过针对符号进行调整，可以提高性能，为算法推理和跟踪文本上下文提供更多信息。
symbol tuninglanguage modelsinput-label pairsalgorithmic reasoningin-context learning tasks
发现论文，激发创造
  • 从零到英雄：探究符号任务在指导调整中的作用

    本研究提出一种采用符号任务来增强指令调整的简单而有效方法，在多个基准测试中验证该方法可以提高语言模型的零 - shot 表推理能力，并证明符号任务不会影响语言模型的普适性。

    Apr, 2023

  • L-TUNING：LLM 中的 Prompt 和 Prefix 同步标签调整

    传统方法在对大型语言模型（LLMs）进行任务微调时面临着挑战。这篇论文介绍了一种名为 L-Tuning 的有效微调方法，专为自然语言推理（NLI）框架中的分类任务而设计，通过对预训练 LLM 进行标签令牌的微调，从而改善模型的训练效果和分类准确度，并提高训练效率。

    Dec, 2023

  • 基于语言模型上下文调整的元学习

    通过将调整和预测转化为简单的序列预测问题，我们提出了 'in-context tuning' 方式来解决 NLP 中的元学习问题，并在两个文本分类任务组合上对其进行了基准测试。在所有模型尺寸上，相对于梯度下降调整模型的一阶 MAML，我们的方法更好地利用了 LM 的归纳偏差，在 BinaryClfs 上绝对 AUC ROC 评分提高了 6％。与不调优的 'in-context learning' 相比较，'in-context tuning' 直接通过元训练从 'in-context' 中学习。在 BinaryClfs 上，'in-context tuning' 将平均 AUC-ROC 分数提高了 10％，并且减少了关于示例顺序的方差 6 倍，示例选择 2 倍。

    Oct, 2021

  • 从符号任务到代码生成：多样化产生更好的任务执行者

    通过合适的指令调整，语言模型在指令 - 输出对的训练上能够更好地适应真实世界；研究发现，提供足够多样化的任务集合能够使其在训练分布之外的情况下具备泛化和鲁棒性，并且扩展调整指令集合能够提高代码生成的性能。

    May, 2024

  • 精调语言模型是零 - shot 学习器

    通过对自然语言指令模板中的 60 个自然语言处理任务进行调整，我们将一个 137B 预训练语言模型调整为 FLAN 并在未看见的任务数据上进行评估，结果表明，通过指令调整，可以大大改善它在未看见任务上的性能并在 20 个任务上超越了 175B GPT-3 的零样本性能。

    Sep, 2021

  • 指令微调语言模型的扩展

    本文研究了在指令集合中对语言模型进行微调以改善其性能及推广其应用的方法，重点探讨了任务规模的扩展、模型大小的扩展和链式推理数据的微调，发现通过上述方面的微调显著提高了包括 PaLM、T5、U-PaLM 在内的各种模型类别，在零样本、少样本和 CoT 环境中的表现，以及在多项基准测试中的表现。

    Oct, 2022

  • 指导性调整的模型具有快速学习能力

    本文研究指令优化对增强模型转移学习和增强其在不同自然语言处理任务方面的效果，并表明在使用指令的预微调下，模型在单任务和多任务方面的性能都得到了提高。

    May, 2023

  • 口述：通过符号转语言转换解决与符号相关的问题

    通过将符号转换为基于自然语言的表示，并将其作为输入信息，我们提出了符号到语言 (Symbol-to-Language) 方法来解决大型语言模型在符号相关问题上的推理不足，这种方法在多个任务上展现出卓越的性能。

    Jan, 2024

  • Tuna: 基于大型语言模型的指令调整

    通过概率排名和上下文排名的方法对已调整过的模型进行微调，最终生成更好回复的模型称为 Tuna，能够优于强化学习基线模型，提高对各种任务的性能。

    Oct, 2023

  • Symbol-LLM: 面向大型语言模型的基础符号中心化界面

    Symbol-LLM 系列模型通过收集各种符号任务并注入符号知识，解决了大型语言模型面临的符号间关系和符号中心与自然语言中心能力平衡的挑战，实验结果表明 Symbol-LLM 系列模型在符号和自然语言任务上具有平衡和优越的性能。

    Nov, 2023