Apr, 2024

从复杂到简单：增强大型语言模型的多约束复合指令跟随能力

HTML
PDF
TL;DR使用包含多个约束条件的指令来训练大型语言模型，能提高其理解复杂指令，特别是对于低复杂性水平的指令，甚至可以推广到超出领域约束的组合，同时提出了获取和利用有效训练数据的方法，并通过广泛实验验证了方法在总体性能、训练效率和泛化能力方面的有效性。
发现论文，激发创造
  • 大型语言模型是否能理解真实世界的复杂指令？

    通过广泛的实验证明，我们提出了CELLO——一个评估大型语言模型理解复杂指令能力的基准，包括八个复杂指令特征，并从现实场景中构建了一个全面的评估数据集。我们还建立了四个标准和相应的度量方法，以比较代表性的面向中文和面向英文模型在跟随复杂指令方面的表现。

    Sep, 2023

  • FollowBench：用于大型语言模型的多级细粒度约束追踪基准

    本文提出了FollowBench，这是一个用于大型语言模型（LLMs）的多级细粒度约束遵循基准，通过评估LLMs在遵循不同类型的细粒度约束方面的表现，揭示了LLMs在遵循指令方面的不足之处，并指出了未来研究的潜在方向。

    Oct, 2023

  • 理解大型语言模型中的指令混合

    本研究通过对指导数据集的混合类型进行分类和研究，发现特定类型的指导对于特定用途更有益处，但可能对其他方面造成伤害，强调了精心设计指导混合以最大化模型性能的重要性。该研究对指导混合提出了新观点，并为未来研究铺平了道路。

    Dec, 2023

  • 基于多样化指令的可控生成大型语言模型的基准测试

    我们提出了一个新的基准测试CoDI-Eval，系统和全面评估LLMs对带有各种约束的指令的响应，揭示了它们在按照特定约束执行指令方面的局限性和开源与闭源LLMs之间存在显著差距。

    Jan, 2024

  • Conifer: 提高大型语言模型复杂约束指令遵循能力

    通过引入名为Conifer的新型指令调整数据集，以及采用渐进学习方案和学习过程反馈，我们提高了大型语言模型（LLMs）在遵循具有复杂约束的多级指令方面的能力，并在几个指令遵循基准测试中，实现了与现有7B模型相比的显著改进，甚至在某些度量标准上超过了10倍大的模型的性能。

    Apr, 2024

  • 优化和测试指令追踪：分析对指令化调整的语言模型的细粒度指令变种的影响

    介绍了一种有效的数据增强技术，通过将复杂指令分解为简单的子组件、修改并重构它们为新的变体，以在训练和评估大型语言模型的指令追踪精度时保留原始指令的上下文和复杂性，并引入可变性。使用该方法开发了DeMoRecon数据集来精细调整和评估大型语言模型，在我们的指令追踪基准和常用基准上，发现使用DeMoRecon进行精细调整的大型语言模型性能显著提升。

    Jun, 2024

  • 多约束复杂指令跟踪的基准测试

    LLMs' ability to follow complex instructions composed of multiple constraints is evaluated using ComplexBench, a new benchmark that exposes deficiencies in existing models.

    Jul, 2024

  • 平衡持续预训练与指令微调：优化大型语言模型的指令遵循能力

    本研究旨在解决大型语言模型（LLMs）在持续预训练与指令微调之间的平衡问题，以保持最新的数据和准确的指令遵循能力。研究发现，通过持续预训练可以有效提升基础模型及其指令微调模型的指令遵循能力，而无需额外的指令数据和微调，展示了高计算效率的潜力。

    Oct, 2024

  • Multi-IF：多轮和多语种指令遵循的LLMs基准评估

    本研究解决了当前基准主要集中于单轮单语指令的缺陷，无法全面反映多轮多语种交互的复杂性。我们提出了Multi-IF，这是一种新基准，通过结合LLM和人类注释，评估模型在多轮多语种指令执行中的能力。我们的研究发现，测试的最新LLM在多轮情况下的指令执行失败率显著提高，尤其在使用非拉丁文字的语言中表现尤为明显，显示出模型的多语种能力存在潜在局限。

    Oct, 2024

  • 约束反向翻译改善大型语言模型对复杂指令的遵循能力

    本研究针对大型语言模型（LLMs）在遵循复杂指令时的困难，提出了一种新的数据生成技术——约束反向翻译。研究结果表明，在CRAB数据集上进行后训练，显著提升了多个LLMs对复杂指令的遵循能力，且约束反向翻译也可作为有效的辅助训练目标。

    Oct, 2024