Sep, 2023
自我专业化:揭示大型语言模型中的潜在专长
Self-Specialization: Uncovering Latent Expertise within Large Language Models
Junmo Kang, Hongyin Luo, Yada Zhu, James Glass, David Cox...
TL;DR通过自我对齐可以在专业领域中提高零样本和小样本性能,利用特定领域的无标签数据和一些标记的种子进行自我特化,有效地从预训练大型语言模型中提取出专家模型。