通过使用大型语言模型 (LLMs) 以及对 MITRE AT&CK 框架中的 Tactics，Techniques 和 Procedures (TTPs) 进行训练，我们研究了它们在预测 ATT＆CK tactics 方面的能力，发现 BaseLLMs 提供更加集中和清晰的 ATT＆CK tactics 预测，而 LLMs 则提供更广泛的网络攻击技术解释。虽然 LLMs 具有强大的潜力，但它们的预测中存在内在歧义。因此，我们总结了现有的挑战，并建议 LLMs 研究方向以处理 TTP 描述的内在歧义。

Jun, 2023

机器学习和自然语言处理可以通过预测实时的恐怖袭击来帮助打击恐怖主义，本研究通过使用社交网络文本来提取必要信息建立合适的恐怖袭击预测数据集，实验发现现有解决方案在地点识别方面准确率较低，我们的解决方案得以解决，并将扩展解决方案以提取日期和行动信息来实现项目目标。

Aug, 2023

本研究通过分析 89 个真实的机器学习攻击情景，研究机器学习中的威胁特性、识别通用基本应对策略，最终总结出其中的最有针对性的漏洞、攻击手段及其防御方式，以共同为机器学习安全保驾护航。

Jun, 2022

在网络安全领域中，战术、技术和程序（TTP）代表复杂的攻击模式，文本知识库中以百科全书的形式描述。寻找网络安全写作中的 TTP，通常称为 TTP 映射，是一项重要且具有挑战性的任务。为了减少模型学习能力受限的问题，我们采用了一种不同的学习范式，即通过文本与 TTP 标签之间的直接语义相似性来决定文本与 TTP 标签的关联，从而降低了仅在庞大的标签空间中竞争的复杂性。为此，我们提出了一种具有有效基于采样的学习比较机制的神经匹配架构，以便使匹配模型能够在资源受限的情况下进行学习。

Jan, 2024

本研究致力于将非结构化的网络威胁情报（CTI）用机器学习自动分类，以支持先发制人的安全措施，并为 CTI 分析提供新的数据集、模型选择指南以及挑战。

Aug, 2022

该研究论文介绍了一种能够分析 CVE 描述并推测由 CVE 利用导致的可能 TTP 攻击的创新技术工具 TTPpredictor，并通过与 MITRE 的攻击功能类别的关联，实现了对威胁行为的自动分类，提高了对于潜在攻击技术的主动识别和威胁治理的能力。

Sep, 2023

该研究使用机器学习和自然语言处理技术以及多个公共数据集，提供一个易于理解的漏洞到攻击技术和威胁行为者的映射，帮助安全从业者协助客户管理和优先处理漏洞。

Jun, 2022

该研究旨在揭示自然语言处理算法易受攻击的弱点是否可能导致软件安全威胁。通过对常用于创建自然语言数据库接口的 Text-to-SQL 系统进行漏洞测试，作者发现 6 款商业应用程序的 Text-to-SQL 模块可以被操纵产生恶意代码，潜在地导致数据泄露和拒绝服务攻击，这是第一次演示了 NLP 模型可以作为攻击向量在野外被利用。此外，使用四个开源语言模型的实验验证了直接后门攻击 Text-to-SQL 系统可以在不影响其性能的情况下实现 100％的成功率。研究呼吁学术界和业界关注 NLP 算法相关软件安全问题，并鼓励探索缓解措施。

Nov, 2022

通过先进的自然语言处理技术，本项目解决在线 C2C 市场上的人口贩运问题。我们介绍了一种新的方法论，通过最小的监督生成伪标记数据集，为训练最先进的自然语言处理模型提供了丰富的资源。在人口贩卖风险预测和有组织活动检测等任务中，我们采用了先进的 Transformer 模型进行分析。一个重要的贡献是使用整合梯度实现一个可解释性框架，为执法部门提供关键的可解释性洞察。这项工作不仅填补了文献中的一个重要空白，还提供了一种可扩展的、机器学习驱动的在线人类剥削对策方法。它为未来的研究和实际应用奠定了基础，强调了机器学习在解决复杂社会问题中的作用。

Nov, 2023

本学位论文提出了一种用户中心的自然语言处理（NLP）安全框架，并演示了如何改进相关研究的可访问性。该框架主要研究语言上的对抗攻击，并探讨如何通过语言的对抗样本实现隐私保护，并评估文化变革和词汇增强对网络欺凌检测的影响。

Jan, 2023