DABL:利用大型语言模型检测企业流程中的语义异常
通过对大型语言模型(LLMs)进行理解和监督微调,本研究详细探讨了 LLMs 在过程挖掘任务中的实用性和应用价值,包括语义异常检测和下一活动预测等领域,并提供了大量基准数据集进行评估实验。结果表明,在给定少量示例和上下文环境的情况下,LLMs 在处理复杂过程挖掘任务时表现不佳,但经过微调后,在性能上明显优于较小的编码器模型。
Jul, 2024
LLMAD 是一种新的时间序列异常检测方法,采用大语言模型(LLMs)提供准确而可解释的结果,通过在上下文中的检测来检索正面和负面的相似时间序列片段,并采用 Anomaly Detection Chain-of-Thought(AnoCoT)方法模仿专家逻辑进行决策过程,为用户决策提供解释。
May, 2024
通过系统性文献综述,全面考察了在预测和异常检测中使用大规模语言模型(LLMs)的应用,突出了现有研究的现状、固有挑战和未来发展方向。LLMs 已经在解析和分析大规模数据集以识别模式、预测未来事件和检测异常行为等各个领域展现了巨大潜力。然而,该综述指出了一些关键挑战,如依赖于大量历史数据集、在不同背景中的泛化问题、模型产生幻觉的现象、模型知识范围的局限性以及需要大量计算资源等,这些挑战阻碍了它们更广泛的应用和有效性。通过详细分析,本综述讨论了克服这些障碍的潜在解决方案和策略,如整合多模态数据,学习方法的进步以及强调模型可解释性和计算效率。此外,该综述还概述了可能影响 LLMs 在这些领域中发展的关键趋势,包括朝向实时处理、可持续建模实践的重要性和跨学科合作的价值。最后,该综述强调了 LLMs 对预测和异常检测可能产生的转变性影响,同时强调了持续创新、道德考虑和实际解决方案的需求以实现其全部潜力。
Feb, 2024
视频异常检测 (VAD) 旨在暂时定位视频中的异常事件。本文提出了一种名为 LAnguage-based VAD (LAVAD) 的方法,利用预训练的大型语言模型 (LLMs) 和现有的视觉 - 语言模型 (VLMs) 来处理 VAD,通过生成每个测试视频的文字描述,设计了一种启动机制,将 LLMs 转化为有效的视频异常检测器,并结合跨模态相似度进行清理和改善 LLMs 的基于异常评分的方法。在两个具有真实监控场景的大型数据集 (UCF-Crime 和 XD-Violence) 上评估 LAVAD,结果显示它在不需要任何训练或数据收集的情况下优于无监督和单类方法。
Apr, 2024
利用大型语言模型(LLMs)来检测表格异常,并展示了预训练的 LLMs 在零样本批量级异常检测方面的效果,同时提出了一种简单但有效的数据生成过程和端到端微调策略来对齐 LLMs 检测真实异常的潜力。
Jun, 2024
利用大型语言模型对金融数据中的异常检测进行研究,通过测试三个预训练通用句子转换模型和五个优化过的机器学习模型,发现大型语言模型对异常检测是有价值的,特别是在金融账目条目中处理特征稀疏性方面的有效性。
Jun, 2024
通过知识蒸馏,以大型语言模型 (LLM) 为基础训练的教师网络来训练学生网络以检测时间序列异常,利用原型信号和合成异常样本的策略,AnomalyLLM 在 15 个数据集中表现出最先进的性能,在 UCR 数据集中提高了至少 14.5% 的准确性。
Jan, 2024
大规模语言模型(LLMs)在文本相关的业务流程管理任务中表现出与现有解决方案相当甚至更好的性能,这为未来的 BPM 研究和实际应用带来了重要的启示。
Jul, 2023
本文介绍了一种基于视频的大型语言模型在视频异常检测中的应用,该方法不需要阈值,并能解释检测到的异常事件。通过引入长期上下文网络模块和三阶段训练方法,提高了模型的性能并降低了数据需求和标注成本,该方法在 UCF-Crime 和 TAD 基准测试中实现了优异的性能。
Jan, 2024