May, 2023
基于层裁剪的医疗报告摘要和医学对话生成参数高效微调
Parameter-Efficient Fine-Tuning with Layer Pruning on Medical Report
Summarization and Medical Dialogue Generation
TL;DR本文介绍了一个包含 LoRA 和结构化层剪枝的模型微调框架,用于对医学报告进行摘要提取,并且该框架可以通过微调少量参数和剪枝一部分 Transformer 层,加速了训练速度,减少 GPU 内存的使用,并且保持自由文本生成质量的同时,提高了模型的效率和效益。