Sep, 2024

利用基于大语言模型的检测对抗电话诈骗：我们处于何种水平？

HTML
PDF
TL;DR本研究解决了电话诈骗对个人和社区的严重威胁，特别是在诈骗者不断适应和改进策略的背景下。通过分析诈骗者与受害者之间的对话动态，本研究提出了基于大语言模型的检测方法，能实时识别潜在的诈骗电话，为用户提供即时保护。这种方法展示了良好的前景，但也面临数据偏见、召回率低以及幻觉等挑战，需要进一步研究解决。
发现论文，激发创造
  • 针对在线性侵犯聊天和辱骂性文本的细调Llama 2大型语言模型

    通过使用开源预训练的Llama 2 7B-parameter模型，这篇论文提出了一种检测在线性侵以及滥用语言的方法，其基于大型语言模型的能力，表现出良好的性能并适用于真实世界应用和其他潜在的文本分类问题。

    Aug, 2023

  • 通过大型语言模型增强人类说服能力

    经过调查，发现大型语言模型（LLMs）在金融行业消费者投诉中的使用与获取理想结果的可能性及语言特征改善相关，进一步实验证明了LLM在人类沟通中提升信息说服力的能力，并凸显了LLM在人类沟通中的转变潜力。

    Nov, 2023

  • 利用大型语言模型检测在线发布的公共威胁的效力

    利用大型语言模型（LLMs）检测在线发布的公共威胁的有效性进行了研究。各种LLMs被用于分类帖子为“威胁”或“安全”，结果表明LLMs能够有效地增强人类内容审查以帮助缓解新兴的在线风险。

    Dec, 2023

  • 大型语言模型的安全与隐私挑战概述

    该文综述了大型语言模型在安全与隐私方面面临的挑战，分析了其脆弱性，并审查了潜在的攻击方式与防御机制，还指出了该领域中的研究空白与未来发展方向。

    Jan, 2024

  • LLM会话安全的攻击、防御和评估：一项调研

    现在普遍存在大型语言模型在对话应用中的应用。然而，它们被滥用来生成有害回复的风险引起了严重的社会关注，并引发了关于大型语言模型对话安全的最新研究。因此，在这项调查中，我们提供了最近研究的综述，涵盖了大型语言模型对话安全的三个关键方面：攻击、防御和评估。我们的目标是提供一个结构化的概述，以增进对大型语言模型对话安全的理解，并鼓励对这个重要主题进行进一步的研究。为了方便参考，我们根据我们的分类法对本调查中提到的所有研究进行了分类。分类信息可在此 https URL 查看。

    Feb, 2024

  • 大型语言模型惊人准确地识别钓鱼邮件：性能比较分析

    本研究分析了15个大型语言模型（LLMs）在检测网络钓鱼邮件方面的效果，重点关注“419诈骗”邮件。实验证明ChatGPT 3.5、GPT-3.5-Turbo-Instruct和ChatGPT是最有效的钓鱼邮件检测模型。

    Apr, 2024

  • 用于网络安全的大型语言模型：系统文献综述

    大型语言模型在网络安全领域的应用综述，包括漏洞检测、恶意软件分析、数据隐私等问题，指出了数据集大小与多样性的重要性以及未来研究方向。

    May, 2024

  • 在LLM时代的社交工程攻击防御

    本研究探讨了大型语言模型（LLMs）作为聊天式社交工程（CSE）攻击的助手和防御者所面临的挑战，开发了一个模拟学术和招聘场景的数据集SEConvo，揭示了LLMs在这些情境中的利用和检测能力，设计了ConvoSentinel以提高检测效果，强化CSE攻击的辨识能力，凸显了在网络安全领域中利用LLMs的需求。

    Jun, 2024

  • DetoxBench：大型语言模型多任务欺诈与滥用检测基准

    本研究关注大型语言模型在欺诈与滥用检测领域的应用不足，提出了一套全面的基准评估工具，以评估其在多种现实场景下的表现。研究发现，尽管大型语言模型在个别欺诈和滥用检测任务中表现良好，但在需要细致的语用推理的任务上表现不佳，这为其在高风险应用中的负责任发展提供了重要启示。

    Sep, 2024

  • 基于人工智能模型的在线欺诈检测与分析应用

    本研究针对在线欺诈检测与分析中缺乏深入研究的问题，采用系统文献综述方法，评估了现有的人工智能和自然语言处理技术。研究发现，现有研究对不同欺诈活动的划分不够通用，且模型的有效性受到数据过时和偏差的影响，因此需要开发针对特定欺诈类型的多种模型，以增强对在线欺诈的理解和防范。

    Sep, 2024