Mar, 2024
PCToolkit: 大型语言模型的统一即插即用提示压缩工具包
PCToolkit: A Unified Plug-and-Play Prompt Compression Toolkit of Large Language Models
Jinyi Li, Yihuai Lan, Lei Wang, Hao Wang
TL;DRPrompt Compression Toolkit 是一个用于在大型语言模型中压缩提示的统一插拔解决方案,提供先进的压缩算法、多样化数据集和全面性能评估指标。