Dec, 2022

模型 Ratatouille：回收各种模型以实现超出分布的泛化

PDF
TL;DR本文提出一种称为 Model Ratatouille 的新技术，通过在多个辅助任务上重新使用同一基础模型的多个微调，利用微调之间的差异提高结果多样性以优化目标任务结果。通过该技术在参考 DomainBed 基准上显着改善了结果，并将贡献到可更新机器学习的新兴范例和开源软件开发类似的社区合作。
foundation modelsmachine learning solutionsmodel ratatouilleauxiliary tasksupdatable machine learning
发现论文，激发创造
  • 基础模型的少样本调整研究：多任务微调方法

    基金模型的有效适应新任务，特别是那些有限标签的任务，一直是一个开放性问题，缺乏理论理解。本研究通过理论分析和大量实证证据，研究多任务微调方法的理论验证和任务选择算法，为基金模型在缺少充足标签的新任务上的有效适应提供新的视角。

    Feb, 2024

  • 通向通用型机器人的基础模型：通过自动化任务和场景生成实现大规模的多样化技能学习

    该文呈现了一种用于采矿最新大规模基础模型中的知识的具体想法，其目的是将低级技能学习扩展至规模化，从而实现授予通才机器人的基础模型，并享有在各种现实场景中执行多种任务的能力。

    May, 2023

  • 探索随机平滑的可转移性

    我们提出了一种用于预训练可认证的强健模型的方法，通过显著扩展预训练数据分布，在下游任务的微调中取得显著效益。我们通过对混合干净图像和各种噪声图像进行预训练，发现即使仅在干净图像上进行微调，也能取得惊人的认证准确率。此外，我们的方法仅需一个模型，即可处理各种噪声水平，大大降低了与以往使用多个模型的方法相比的计算成本。尽管仅使用一个模型，我们的方法仍可以得出与现有的多模型方法相当甚至更好的结果。

    Dec, 2023

  • AutoFT：通过 OOD 数据优化超参数进行稳健微调

    AutoFT 是一种基于数据驱动的方法，用于指导基础模型的微调，以优化性能和改善泛化能力。实验证明 AutoFT 在多个分布转移任务上表现出色，显著提高了对新的异常数据的泛化能力，并在 WILDS-iWildCam 和 WILDS-FMoW 基准测试上取得了新的最佳结果。

    Jan, 2024

  • 奖励汤：通过插值微调多样化奖励权重实现帕累托最优对齐

    本研究提出使用多策略策略来包容多样奖励，应用于文本到文本，文本到图像和控制任务中，以增强深度模型的对与多样世界的交互的对准。

    Jun, 2023

  • 铺路把握一切：将基础模型转移，用于通用拾放机器人

    本文提出了一种基于语言根据分割掩模的新型范例，来应对日常情况下一系列的抓取和放置机器人操作任务，通过将从掩模中传达的精确语义和几何形状与我们的多视点策略模型相结合，使我们的方法能够感知准确的物体姿态并实现样本高效学习。

    Jun, 2023

  • 基础模型的机遇与风险

    AI 基础模型的兴起，具有广泛数据训练和可适应下游任务的特点，其机制、应用和社会影响需要更多的跨学科合作来研究。

    Aug, 2021

  • 特化与泛化：对基础模型微调中灾难性遗忘的实证研究

    为了解决 fine-tuning 中特性和广泛适用性之间的矛盾，我们研究了来自持续学习的多种规范化方法和来自越界通用化的权重平均方法，发现持续学习和 Wise-FT 方法可以有效减轻广泛适用性的损失，其中 Wise-FT 在平衡特性和广泛适用性方面表现最好。

    Sep, 2023

  • 模型面包屑：利用稀疏掩码扩展多任务模型合并

    这项研究提出了一种名为 Model Breadcrumbs 的新方法，通过在预训练模型的权重空间内的轨迹上雕刻一组稀疏定义的权重，从而增强任务性能，并在多个任务中同时改善性能，为构建多任务模型和更新基础模型提供了一种简单、高效和极其有效的方法。

    Dec, 2023

  • 模型集成：对多个微调模型的权重进行平均可提高准确度且不增加推理时间

    通过平均训练以不同超参数配置微调的模型，提高现有模型的性能和鲁棒性，从而在多个图像分类和自然语言处理任务中达到新的最先进技术水平。

    Mar, 2022