malicious content | BriefGPT

关键词malicious content

搜索结果 - 8

通过逻辑链注入，在良性叙述中隐藏恶意目标：破解大型语言模型
该论文提出了一种新型越狱攻击方法，既能欺骗语言模型，也能欺骗人类，通过将恶意目标伪装成一系列善意叙述，并将叙述分布到相关无疑的文章中，从而在真实中隐藏谎言，通过注入恶意意图来欺骗。
PDF3 months ago
潜入中：通过 MLLM 特工向 MLLM 社群内部注入恶意
通过间接影响的方式，我们的研究揭示了在多模式大型语言模型（MLLMs）社会中存在的新的安全风险，即单个 MLLM 代理可以通过生成特定提示或指令来 “感染” 社会中的其他代理，从而导致有害输出的生成和传播。
PDF5 months ago
从聊天机器人到网络钓鱼机器人？—— 阻止使用 ChatGPT、谷歌巴德和克劳德创建的网络钓鱼诈骗
利用大型语言模型进行自动化检测，发现现有的大型语言模型可以生成可信地伪造知名品牌的网络钓鱼邮件和网站，并且可以使用未修改的版本进行此类攻击。为了应对这一问题，建立了一个基于 BERT 的自动检测工具，可以在早期检测到恶意提示，以防止大型语言
PDF8 months ago
RatGPT：将在线 LLMs 转化为恶意软件攻击代理
通过证明概念，利用 ChatGPT 作为代理并与受害者建立通信，该研究揭示了开放可用插件和大型语言模型存在的重要网络安全问题，需要开发安全指南、控制措施和缓解策略。
PDFa year ago
恶意还是良性？针对儿童视频的有效内容管理
本研究介绍了一款工具，可以自动检测儿童视频是否存在恶意内容，包括可定制注释工具、数据集和基准测试套件。
PDFa year ago
BIC: 基于文本图交互和语义一致性的 Twitter 机器人检测
本文提出了一种名为 BIC 的 Twitter 机器人检测框架，其使用文本和图形交互和语义一致性建模进行 Twitter 机器人检测，并取得了比现有方法更好的效果。
PDF2 years ago
ICML数字广告多语言虚假信息检测
通过利用多语言文本嵌入实现机器学习模型，快速检测和红旗标记潜在的使用虚假信息欺瞒公众的网站，从而保护广告提供商的声誉。
PDF2 years ago
利用作者验证进行帐户受损检测：一种新的方法
使用作者验证方法从最后一个用户的贴文提取特征以实现早期检测，从而检测出没有用户概要的恶意信息，成功率达到 89%。
PDF2 years ago