Jul, 2023

FinPT:基于预训练基础模型的金融风险预测与配置调优

TL;DR金融风险预测在金融领域中起着关键作用。机器学习方法已被广泛应用于自动检测潜在风险,从而节省劳动成本。然而,近年来在这一领域的发展在以下两个方面滞后:1)所使用的算法有些过时,特别是在生成式人工智能和大型语言模型(LLM)快速发展的背景下;2)缺乏统一的、开源的金融基准已经阻碍了相关研究多年。为了解决这些问题,我们提出了FinPT和FinBench:前者是一种新颖的金融风险预测方法,它在大型预训练基础模型上进行Profile Tuning;后者是一组关于金融风险的高质量数据集,如违约、欺诈和流失。在FinPT中,我们将金融表格数据填充到预定义的指令模板中,通过提示LLMs获取自然语言客户配置文件,并使用配置文件文本对大型基础模型进行微调以进行预测。通过在FinBench上与一系列代表性的强基线进行实验,我们证明了所提出的FinPT的有效性。分析研究进一步深化了对于金融风险预测的大型语言模型的理解。