该研究提出了一种依赖于系统调用序列的概率分布的新颖性检测方法，并通过引入包含超过2百万个具有七种不同行为的内核跟踪的新开源数据集，解决了大规模神经网络训练数据的限制。该方法在大多数新颖之处实现了超过95%的F值和AuROC，且数据和任务无关。

Sep, 2023

我们提出了一种基于自编码器驱动的无监督学习方法，从无标签的工作流数据中学习摘要统计，并估计计算工作流的正常行为。通过估计潜在空间中正常行为的分布，我们证明了我们可以在基准数据集上胜过最先进的异常检测方法。

Oct, 2023

对比多个先进的异常检测模型在工业数据集上的表现，结果显示某些模型更适用于结构较松散的数据集，并且研究人员通过定性研究分析了这些模型在识别不同类型的异常时的优势和局限性，最后对训练集大小进行逐渐增加并评估模型的有效性。

Oct, 2023

通过系统性文献综述，全面考察了在预测和异常检测中使用大规模语言模型（LLMs）的应用，突出了现有研究的现状、固有挑战和未来发展方向。LLMs已经在解析和分析大规模数据集以识别模式、预测未来事件和检测异常行为等各个领域展现了巨大潜力。然而，该综述指出了一些关键挑战，如依赖于大量历史数据集、在不同背景中的泛化问题、模型产生幻觉的现象、模型知识范围的局限性以及需要大量计算资源等，这些挑战阻碍了它们更广泛的应用和有效性。通过详细分析，本综述讨论了克服这些障碍的潜在解决方案和策略，如整合多模态数据，学习方法的进步以及强调模型可解释性和计算效率。此外，该综述还概述了可能影响LLMs在这些领域中发展的关键趋势，包括朝向实时处理、可持续建模实践的重要性和跨学科合作的价值。最后，该综述强调了LLMs对预测和异常检测可能产生的转变性影响，同时强调了持续创新、道德考虑和实际解决方案的需求以实现其全部潜力。

Feb, 2024

大型语言模型在漏洞检测方面的推理能力较差，常出现错误定位漏洞代码和错误识别漏洞类型的情况。

Mar, 2024

通过使用大型语言模型（LLMs）来辅助发现源代码中的漏洞，相比传统的静态分析工具，我们发现LLMs能够找出更多问题，提高漏洞检测的回溯率和F1分数，从而使得代码更加安全。

May, 2024

通过将程序控制流图编码为图神经网络的多任务序列到序列LLM技术，结合多任务自我指导微调的自我说明和LLM自我指导，MSIVD在漏洞检测方面取得了卓越的性能，达到了0.92的F1得分（BigVul数据集）和0.48的F1得分（PreciseBugs数据集）。

Jun, 2024

利用大型语言模型（LLMs），引入DABL来检测业务流程中的语义异常，通过广泛的实验表明DABL在泛化能力和学习给定流程方面超过了现有最新的语义异常检测方法。用户可以直接应用DABL来检测其自己的数据集中的语义异常，并能用自然语言解释异常的原因，提供有价值的洞察。

Jun, 2024

通过对大型语言模型（LLMs）进行理解和监督微调，本研究详细探讨了LLMs在过程挖掘任务中的实用性和应用价值，包括语义异常检测和下一活动预测等领域，并提供了大量基准数据集进行评估实验。结果表明，在给定少量示例和上下文环境的情况下，LLMs在处理复杂过程挖掘任务时表现不佳，但经过微调后，在性能上明显优于较小的编码器模型。

Jul, 2024

本研究解决了机器学习系统中异常和分布外样本检测的重要性及其现存方法的不足。通过提出一种新的分类法，研究将现有方法根据大型语言模型的作用进行分类，并探讨了未来研究的挑战与方向。这项工作的显著发现是，大型语言模型在异常和分布外检测中的整合可能会显著改变该领域的传统范式。

Sep, 2024