Dec, 2022
TencentPretrain: 多模态预训练模型的可扩展和灵活工具包
TencentPretrain: A Scalable and Flexible Toolkit for Pre-training Models of Different Modalities
Zhe Zhao, Yudong Li, Cheng Hou, Jing Zhao, Rong Tian...
TL;DR这篇论文介绍了 TencentPretrain,一个支持不同模态的预训练模型的工具包,其核心特性是模块化设计,用户可以选择所需组件构建完整的预训练模型,设计使用户能够有效地重现现有的预训练模型或构建全新模型,并测试表明其可以匹配原始实现的性能。