security threats | BriefGPT

关键词security threats

搜索结果 - 29

Inception: 高效可计算的马尔可夫博弈虚假信息攻击
研究马尔可夫博弈中信息不对称和错误信息导致的安全威胁，通过考虑一名攻击者玩家散布关于其奖励函数的错误信息来影响受害者玩家的行为，我们推导了在最坏情况理性下受害者的策略，并提出了基于线性规划和反向归纳的多项式时间算法来计算攻击者的最优最坏情况
PDF12 days ago
AI 代理面临威胁：主要安全挑战与未来发展路径调查
通过系统地审查人工智能代理所面临的安全威胁，本文突出了在保护人工智能代理方面所取得的进展和现有的限制，并旨在激发进一步研究以解决与人工智能代理相关的安全威胁，从而促进更加稳固和安全的人工智能代理应用程序的发展。
PDFa month ago
通过 Silent Tokens 增强对大型语言模型的越狱攻击
该研究探讨了 L 语言模型的安全威胁，引入了简单的 BOOST 攻击方法，通过在有害问题末尾添加 eos 标记，绕过 LLM 的安全对齐，从而导致成功的越狱攻击。研究发现，在 MLE 对有害问题理解上没有影响的情况下，eos 标记可以增加攻
PDFa month ago
如何整合云服务、数据分析和机器学习技术以降低与现代云基础设施相关的网络风险
本文研究了云技术、机器学习和数据可视化方法的结合，展示了如何整合云服务、数据分析和机器学习技术以便检测和减少与现代基于云的基础设施相关的网络安全风险。通过应用机器学习监督分类器设计了一个基于著名的 UNSW-NB15 数据集的模型，预测网络
PDF2 months ago
TroLLoc：IC 安全闭环中的逻辑锁定和布局硬化对抗硬件木马
本工作提出了一种新颖的集成电路（IC）安全闭环方案 TroLLoc，通过同时使用逻辑锁定和布局加固，有效、高效和稳健地保护 IC 的物理布局免受后期插入的特洛伊木马的威胁。
PDF2 months ago
增强 O-RAN 安全性：对基于图强化学习的连接管理的逃避攻击和健壮防御
针对 Open Radio Access Networks (O-RAN) 的机器学习模型进行各种攻击和防御的对抗性机器学习研究，描述了威胁建模、逃逸攻击以及训练防御等内容，并展示了防御措施相较于无防御情况下将覆盖率提高 15% 的结果。
PDF2 months ago
可用 AI 的滥用的技术视角
滥用民用人工智能（AI）可能对国家和国际安全构成严重威胁，本文通过定义自主系统并解释 AI 开发的特点来展示已存在且公开可用的 AI 技术如何被滥用，进一步开发了三个潜在被滥用的 AI 使用案例，威胁政治、数字和实体安全，这些案例可以通过现
PDF3 months ago
SUB-PLAY: 针对部分观测多智能体强化学习系统的对抗性策略
多智能体强化学习中的安全威胁及对策的研究，包括针对对手生成敌对策略时的部分可观测性限制的黑盒攻击方法以及针对这些策略的潜在防御方式的评估和建议。
PDF5 months ago
SunBlock：物联网系统的无云保护
使用人工智能工具结合经典的基于规则的流量过滤算法，在家庭路由器上本地有效地检测物联网威胁，实现对典型家庭物联网网络的保护，无需依赖云服务和第三方。
PDF5 months ago
互动伦理学：减轻 LLM 中的安全威胁
通过探讨语言学习模型的安全威胁，本文全面研究了一系列涉及伦理道德的挑战，包括数据安全、隐私保护等问题，提出了一种定制的评估工具，用于加强语言学习模型的后端系统，并在测试阶段评估其伦理维度与社会伦理价值之间的一致性。
PDF5 months ago
机器学习基于物联网生态系统中的攻击揭秘：调查及背后的开放图书馆
通过全面的研究和分析，本文旨在为人工智能在物联网快速发展的领域中保护 ML 模型和数据提供宝贵见解和实际解决方案。
PDF5 months ago
基于深度学习的汽车 CAN 嵌入式入侵检测系统
提出了一种基于 FPGA 的 ECU 方法，通过专用的现成硬件加速器实现深度卷积神经网络入侵检测模型，平均准确率超过 99％，在多个攻击数据集中的误检率为 0.64％，并且相比于 GPU 上的 IDS 实现，在能量消耗上降低了 94％，每个
PDF6 months ago
金融科技中的网络安全威胁：系统综述
该论文通过对 74 篇选择的研究进行 PRISMA 方法和主题建模的综合系统审查，引入了一种新颖的、精细的金融科技安全威胁分类体系，并确定了相应的 9 种防御策略，为银行、企业和全球政府机构等利益相关者提供了宝贵的洞察力，凸显了金融科技的当
PDF7 months ago
应用大型语言模型于电力系统：潜在安全威胁
应用大型语言模型（LLMs）于电力系统可以提升决策和运营效率，但也可能带来潜在安全威胁。本文分析了应用 LLMs 于电力系统可能造成的威胁，并强调了对紧急研究和开发应对措施的需求。
PDF7 months ago
PoisonPrompt: 基于提示的大型语言模型的后门攻击
本文研究了基于提示的大语言模型存在的后门安全威胁，并提出了一种名为 POISONPROMPT 的新型后门攻击方法，实验证明在不同的任务和语言模型上都具有较高的有效性、保真度和鲁棒性，该研究强调了进一步研究这一领域的重要性。
PDF9 months ago
语音助手应用程序中的安全问题和隐私问题：一项调查
本文对现有研究进行了综述，总结并评估在网络安全和声音领域顶级会议发表的论文中，对语音助手应用程序的五种安全攻击和三种隐私威胁进行了分类。
PDFa year ago
基于本体论和知识图谱的语义数据流程图集及其安全分析
本文提出一种基于知识图谱和本体的自动化方式来分析云计算系统的安全威胁模型，并探讨该方法在现代敏捷开发环境中的应用挑战。通过使用包含 180 个语义图的本体，建立了基于 Docker Compose 的云配置数据流程图，并评估本体和知识图谱用
PDFa year ago
离线强化学习数据集中的后门隐藏
本文提出了一种新的后门攻击方法 Baffle，通过实验发现当前所有离线强化学习算法都无法免疫这种攻击，并且我们插入的后门难以被广泛采用的防御方法检测出来，因此需要更有效的保护机制。
PDF2 years ago
训练要有所侧重：自监督语音识别模型的针对性、可迁移对抗样本
该论文研究了定向对抗攻击自我训练的自动语音识别模型，发现现代自我训练的自动语音识别模型容易受到对抗攻击的影响，进一步揭示了现代 ASR 体系结构的安全威胁。
PDF2 years ago
边缘安全：挑战与问题
本篇论文讨论了边缘计算的安全威胁和隐私监管合规挑战，并提出了需要综合考虑各层面知识的方法，分析边缘网络安全状况。
PDF2 years ago