May, 2025

ConCISE: 以信心为导向的逐步高效推理压缩

TL;DR本研究解决了大型推理模型在复杂推理任务中产生冗长输出的问题,影响了计算效率和用户体验。通过引入信心指导的视角,提出了ConCISE框架,该框架通过增强模型在推理过程中的信心,避免生成冗余的反思步骤,从而实现了输出长度减少近50%且保持高任务准确率的显著改进。