ICLRMar, 2024

增强基础模型联邦微调中的数据质量

PDF
TL;DR当前基础模型训练的情况表明，公共领域数据已接近枯竭，因此需要在多个专门化和高质量的私有领域数据源之间加强合作。为了解决本地训练模型而不共享私有数据所带来的质量控制问题，我们提出了一个针对基础模型的联邦微调的数据质量控制流程。该流程通过计算反映训练数据质量的分数，并确定一个统一标准的全局阈值，旨在提高整体性能。我们的实验证明，所提出的质量控制流程有助于模型训练的效果和可靠性，从而提高性能。
foundation model trainingpublic domain dataprivate domain datadata quality controlfederated fine-tuning
发现论文，激发创造
  • 一种数据中心的框架，用于改进特定领域的机器阅读理解数据集

    本文提出了一个旨在增强原始数据集数据质量的框架，并应用于四个生物医学数据集，使用回译技术提高数据集质量，在 BioASQ 数据集上表现出相对提高了 33%/40% 的检索 / 阅读器模型的微调效果。

    Apr, 2023

  • 联邦基础模型：大型模型的隐私保护和协同学习

    本文介绍了一种结合了联邦学习和基础模型的隐私保存方法，即联邦基础模型，其中涉及该方法的不同方面和任务，以及与传统基础模型的比较和实验。

    May, 2023

  • 联邦学习对微调特征的偏倚风险及其影响弱领域泛化性能

    通过引入 GNP 算法，将鲁棒性从预训练模型传递到微调模型，并增加少量的高斯噪声以增强模型的代表能力，从而显著提高模型在不同场景下的鲁棒性。

    Jan, 2024

  • 大型语言模型的参数高效微调的自动联合管道

    通过使用自动联邦化管道（FedPipe），我们设计和实现了一种在最小化训练成本的同时不增加推理延迟的联邦学习方法来对大语言模型进行微调，从而加速模型训练并获得比最先进基准更高的准确性。

    Apr, 2024

  • 基于基础模型的联合生成学习

    本文提出了一种新的联邦生成学习框架，通过在客户端和服务器之间传输与分布式训练数据相关的提示，对信息进行编码和传输，从而综合提高联邦学习的效率和数据隐私性。

    Jun, 2023

  • 使用联邦学习训练语音识别模型：质量 / 成本框架

    本文提出使用联邦学习来训练语音识别模型，并通过对非独立同分布数据分布程度的调整来平衡模型质量和联邦训练计算成本之间的关系，并证明超参数优化和适当使用变分噪声可以弥补非独立同分布数据对模型影响的影响。

    Oct, 2020

  • 基于联邦学习的基础模型协同优化：一项综述

    基于联邦学习与基础模型的潜力和挑战以及核心技术、未来方向和应用的综述。

    Jun, 2024

  • 联邦学习中的数据估值与检测

    使用隐私保护方法进行数据估值的联邦学习研究，借助 Wasserstein 距离提供透明数据评估和有效计算 Wasserstein barycenter 以减少对验证数据的依赖，并通过广泛的实证实验和理论分析展示了该估值指标的研究前景。

    Nov, 2023

  • 用于联邦基础模型的双个性化适配器

    提出了一个新的设置，称为测试时个性化，其中不仅专注于目标的本地任务，而且扩展到展示测试时分布偏移的其他任务。为了解决这个新设置中的挑战，提出了一个名为 FedDPA 的双向个性化适配器架构，包括全局适配器和局部适配器，用于解决测试时分布偏移和个性化问题，并引入了一个实例动态加权机制来优化全局和局部适配器之间的平衡，提高整体性能。在不同的自然语言处理任务上对所提出的方法进行了评估。

    Mar, 2024

  • 利用基础模型改进联邦学习中的轻量级客户端

    通过使用基础模型蒸馏进行联邦训练，提高轻量级客户模型在异构数据环境下的性能，并降低推理成本。

    Nov, 2023