knowledge aggregation | BriefGPT

关键词knowledge aggregation

搜索结果 - 8

1+1>2：大型语言模型能否用作跨语言知识聚合器？
通过从不同语言中汇集知识，该研究介绍了一种增强大型语言模型在多语言环境下性能的方法。实验证明，该方法显著提升了性能，特别是在减少语言性能差异方面。
PDF14 days ago
基于知识聚合和蒸馏的主动目标检测
提出了一种基于知识集成和知识蒸馏的活动物体检测方法，通过提供关于物体相关的可行交互信息来改善活动物体检测，实现了当前最先进的性能。
PDFa month ago
ACLQ-Tuning: 基于队列的逐步微调方法用于终身少样本语言学习
本研究提出了一种名为 Q-tuning 的新方法，用于持续的提示调优，从而实现了预训练语言模型的终身学习。通过将新任务的提示添加到由旧任务的提示组成的提示队列中，Q-tuning 训练了一个特定于任务的提示。为了更好地传递旧任务的知识，我们
PDF2 months ago
CoDream：以异构模型而非模型交换进行联邦聚合
通过在输入数据空间中进行联合优化，共享模型知识，而不是模型参数，我们提出了一种名为 Codream 的新颖框架，实现了联邦学习中的模型无关协作学习，消除了模型参数的可扩展性问题，同时保留了联邦学习的隐私保护优势，并允许个性化学习的知识自适应
PDF4 months ago
长文本问答：一种迭代计划 - 检索 - 生成的方法
提出了一种具有迭代规划、检索和生成过程的长篇问答（Long-form question answering，LFQA）模型，该模型通过迭代过程直到生成给定问题的完整答案，解决了既有模型在处理复杂问题和知识聚合方面的限制，并在各种文本和实际指
PDF8 months ago
融合遗忘：通过模型融合实现偏见降低和选择性记忆
模型融合研究的目标是通过结合模型的权重来聚集多个模型的知识以增强性能。本文通过多个实验，针对文本分类和生成任务，深入研究了模型融合对学习过程中的快捷方式、社会偏见和记忆能力的影响，并发现模型融合通常会增强模型之间的共享知识，而未共享的知识通
PDF8 months ago
超表示作为生成模型：采样未见的神经网络权重
本文介绍了一种基于模型动物园的神经网络权值表示学习方法，借助该方法可以生成高性能模型，此外还探讨了模型之间特性聚合对学习效果的影响。
PDF2 years ago
一次性联邦学习
本文介绍了一种单次联邦学习方法，通过使用集成学习和知识聚合，使得中央服务器可以在单次通信中学习联合设备网络上的全局模型，在 AUC 方面相对于本地基线获得了 51.5% 左右的平均相对收益，并且达到了全局理想状态的 90.1% 左右。最后，
PDF5 years ago