Jun, 2024

利用大型语言模型掌握商业和媒体洞察力

PDF
TL;DRFortune Analytics Language Model (FALM) 是一种先进的商业和媒体领域的 LLM，通过提供深入和准确的综合商业分析、市场趋势、公司绩效指标和专家见解，帮助用户直观地了解不同商业领域的趋势。
发现论文，激发创造
  • 面向数据的金融大型语言模型

    通过数据中心的方法，我们提出了一种能够更好地处理金融任务的金融 LLM（FLLM）模型，通过多任务提示优化来对数据进行预处理和预理解，并通过推断增强推理（AAR）自动生成训练数据，实验结果表明，我们的数据中心 FLLM 模型显著优于基于原始文本的金融 LLMs，在金融分析和解释任务上达到了最新水平，我们还开源了一个新的金融分析和解释基准，这种方法为解锁 LLMs 在复杂现实领域的潜力提供了希望。

    Oct, 2023

  • CatMemo 通过数据融合在金融应用中对大型语言模型进行微调

    本文研究了大型语言模型在金融分析中的应用，通过 IJCAI-2024 FinLLM 挑战模拟了金融分类、金融文本摘要和个股交易等关键任务，并采用 Llama3-8B 和 Mistral-7B 作为基本模型，通过 Parameter Efficient Fine-Tuning（PEFT）和 Low-Rank Adaptation（LoRA）方法进行微调，将任务一和任务二的数据集进行融合，综合和全面地解决了这些多样且复杂的金融任务，展示了大型语言模型在提高准确性和决策能力方面的潜力。

    Jul, 2024

  • 金融中的大型语言模型：综述

    近期大规模语言模型 (LLM) 的发展在金融领域开创了人工智能应用的新可能性。本文提供了一份实用的调查报告，关注 LLM 在金融任务中的两个关键方面：现有解决方案和采用指南。首先，我们回顾了目前在金融领域中采用 LLM 的方法，包括通过零样本或少样本学习利用预训练模型，对领域特定数据进行微调，以及从头开始训练自定义 LLM。我们总结了关键模型并评估了它们在金融自然语言处理任务上的性能改进。其次，我们提出了一个决策框架，以帮助金融业专业人员根据数据、计算和性能需求选择合适的 LLM 解决方案。该框架提供了从轻量级实验到大规模投资自定义 LLM 的路径。最后，我们讨论了在金融应用中利用 LLM 所面临的限制和挑战。总的来说，该调查旨在综述最新技术并为负责任地应用 LLM 推动金融人工智能提供路线图。

    Sep, 2023

  • 金融知识大语言模型

    人工智能在金融行业取得了重大进展，通过自动化复杂任务、增强客户服务和提供详细的金融分析等方式改变了数据的处理和解释方式。本研究提出了 IDEA-FinBench、IDEA-FinKER 和 IDEA-FinQA，分别针对大型语言模型在金融领域的应用所进行的评估基准、知识增强框架和基于问答系统的应用方案。

    Jun, 2024

  • 金融应用中大型语言模型的调查：进展、前景与挑战

    使用大型语言模型（LLMs）在金融领域中的机器学习应用的最新进展，探讨了 LLMs 在各种金融任务上的应用，重点在于它们改变传统做法和推动创新的潜力，提供了进展和优势的讨论，包括上下文理解、迁移学习的灵活性和复杂情感检测等高级技术，以及将现有文献分类为主要应用领域，包括语言任务、情感分析、金融时间序列、金融推理、基于代理的建模和其他应用，详细介绍了每个应用领域的具体方法论，如文本分析、基于知识的分析、预测、数据增强、规划、决策支持和模拟。此外，还提供了与主流应用相关的数据集、模型资源和有用代码等资源，作为研究人员和实践者的参考。最后，概述了未来研究中的挑战和机遇，特别强调了该领域的几个独特方面。希望我们的工作能促进 LLMs 在金融领域的采用和进一步发展。

    Jun, 2024

  • 通过检索增强的大型语言模型增强金融情感分析

    在金融情感分析领域，传统的 NLP 模型受到参数大小和训练数据范围的限制，以及简洁的财经新闻文本缺乏上下文的问题，而无法很好地泛化和提高准确性。为了解决这些挑战，本研究引入了一种基于检索增强的大型语言模型（LLMs）框架，该框架包括一个指导调整的 LLMs 模块和一个从可靠外部来源检索附加上下文的模块。与传统模型和 ChatGPT、LLaMA 等 LLMs 相比，我们的方法在准确性和 F1 得分方面取得了 15％到 48％的性能提升。

    Oct, 2023

  • 利用 LLMs 支持预见性治理：评估和调整大型语言模型与新闻媒体相符，预测人工智能的负面影响

    利用新闻媒体进行数据分析，我们形成了一个包含十个类别的人工智能影响分类法，并通过评估模型发现，细调的模型与新闻媒体所识别的负面影响分类几乎一致，而指令型模型则在某些类别的影响生成上存在差距。这项研究凸显了当用于预测影响时，最先进的 LLMs 存在潜在偏见，并展示了将较小的 LLMs 与新闻媒体所反映的多样化影响进行调整以更好地反映这些影响的优势。

    Jan, 2024

  • 使用大型语言模型自动评估主题模型：读懂茶叶渣

    我们提出了 WALM (Words Agreement with Language Model) 这一新的主题建模评估方法，综合考虑语义质量，旨在提供一种全面性评估。WALM 与人员判断一致，可作为现有评估方法的补充，为主题建模带来了新的视角。

    Jun, 2024

  • DataTales：探究大型语言模型在编写数据驱动文章中的应用

    本研究探讨使用大型语言模型（LLMs）支持数据驱动文章创作的可行性和感知价值，设计了一个原型系统 DataTales，通过使用 LLMs 生成与给定图表相关的文本叙述，并通过与 11 名专业人士进行定性研究评估了该概念，从中提炼了 LLMs 作为有价值的数据驱动文章创作助手的优点和机会。

    Aug, 2023

  • 金融领域大型语言模型综述

    金融领域的大型语言模型（LLMs）较少研究，本文综述了金融 LLMs 的历史、技术、性能、机遇和挑战，包括训练方法、训练数据和性能评估等关键点。

    Feb, 2024