PLUTUS:一个经过良好预训练的大型统一变换器揭示金融时间序列规律
提出了CLVSA模型,它是一个包含了随机循环网络、序列到序列的体系结构、自注意机制和卷积LSTM单元的混合模型,能够更好地捕捉金融交易数据的特征和趋势,同时利用Kullback-Leibler差距作为正则化,避免模型过拟合问题。通过六种期货的回测结果表明,该模型胜过基础模型,如卷积神经网络、vanilla LSTM网络和带有注意力机制的序列到序列模型。
Apr, 2021
本文研究了利用大型语言模型在可解释金融时间序列预测中的应用,使用股票价格数据、公司元数据和历史新闻等多模态信号,在 NASDAQ-100 股票上进行实验,结果显示与一些基准模型相比,使用 GPT-4 和 Open LLaMA 这类新型模型进行零样本/少样本推断并通过基于指令的微调生成可解释预测,优于经典的 ARMA-GARCH 模型和梯度提升树模型。
Jun, 2023
在本文中,我们提出和演示了一种使用深度编码器将金融时间序列的多模态数据存储在低维潜空间中的框架,使潜空间投影不仅捕获时间序列趋势,还捕获金融时间序列数据的其他有价值的信息或属性(例如价格波动性),同时允许用户友好的查询界面,包括自然语言文本和时间序列的草图。我们展示了我们的方法在计算效率和准确性方面在真实历史数据和合成数据上的优势,并突出了使用潜空间投影在金融时间序列数据的存储和检索中的实用性。
Sep, 2023
近期大规模语言模型(LLM)的发展在金融领域开创了人工智能应用的新可能性。本文提供了一份实用的调查报告,关注LLM在金融任务中的两个关键方面:现有解决方案和采用指南。首先,我们回顾了目前在金融领域中采用LLM的方法,包括通过零样本或少样本学习利用预训练模型,对领域特定数据进行微调,以及从头开始训练自定义LLM。我们总结了关键模型并评估了它们在金融自然语言处理任务上的性能改进。其次,我们提出了一个决策框架,以帮助金融业专业人员根据数据、计算和性能需求选择合适的LLM解决方案。该框架提供了从轻量级实验到大规模投资自定义LLM的路径。最后,我们讨论了在金融应用中利用LLM所面临的限制和挑战。总的来说,该调查旨在综述最新技术并为负责任地应用LLM推动金融人工智能提供路线图。
Sep, 2023
在金融投资领域,大型语言模型(Large Language Models,LLMs)的完全潜力尚未得到充分利用。针对量化金融的典型深度学习方法存在两个主要挑战:一是难以灵活地融合文本和数值信息进行股票运动预测,二是传统方法缺乏清晰度和解释性,这阻碍了其在需要预测的理由至关重要的场景中的应用。为解决以上挑战,我们提出了一种名为Ploutos的新型金融LLM框架,其中包括PloutosGen和PloutosGPT。PloutosGen包含多个主要专家,可以分析不同模态数据,如文本和数字,并从不同的角度提供量化策略。然后,PloutosGPT结合他们的见解和预测,生成可解释的理由。为了生成准确和可信的理由,PloutosGPT的训练策略利用后视镜提示机制来引导GPT-4生成理由,并利用动态令牌加权机制通过增加关键令牌的权重来微调LLM。广泛的实验证明,我们的框架在预测准确性和解释性方面优于最先进的方法。
Feb, 2024
使用大型语言模型(LLMs)在金融领域中的机器学习应用的最新进展,探讨了LLMs在各种金融任务上的应用,重点在于它们改变传统做法和推动创新的潜力,提供了进展和优势的讨论,包括上下文理解、迁移学习的灵活性和复杂情感检测等高级技术,以及将现有文献分类为主要应用领域,包括语言任务、情感分析、金融时间序列、金融推理、基于代理的建模和其他应用,详细介绍了每个应用领域的具体方法论,如文本分析、基于知识的分析、预测、数据增强、规划、决策支持和模拟。此外,还提供了与主流应用相关的数据集、模型资源和有用代码等资源,作为研究人员和实践者的参考。最后,概述了未来研究中的挑战和机遇,特别强调了该领域的几个独特方面。希望我们的工作能促进LLMs在金融领域的采用和进一步发展。
Jun, 2024
通过将有关事件的文本信息与实际数字时间序列预测相结合,我们提出了一种协作建模框架,以更准确地模拟时间序列预测,特别是在金融市场数据上的有效性评估。
Jul, 2024
本研究解决了金融时间序列建模中存在的非线性、非平稳以及高噪声水平带来的挑战。我们提出了PLUTUS,一种基于预训练的大型统一变压器模型,通过对比学习和自编码器技术,有效处理高噪声时间序列,且在多个任务中表现出色,为金融领域奠定了坚实的基础。
Aug, 2024
本文解决了金融时间序列中信噪比低的问题,提出了一种利用扩散模型进行去噪的新方法。该方法通过逐步添加和去除噪声,重构原始数据,并实验证明去噪后的时间序列在未来收益分类任务中显著提高了性能,且交易信号能够带来更高收益和更低的交易成本。
Sep, 2024