Jul, 2024
针对增强长上下文理解和领域专业知识的优化医学语言模型微调
Fine-Tuning Medical Language Models for Enhanced Long-Contextual
Understanding and Domain Expertise
TL;DR本研究旨在调查医学类大型语言模型在理解长上下文方面性能下降的现象,并通过调整Fine-tuning过程中常规数据与医学数据的比例和数量,确定最佳数据组成,以优化专业模型并在长上下文性能和特定领域知识之间实现平衡。