- LLM 自学与交叉模型蒸馏：拒绝模式对齐的有效方法
通过研究模型对有毒提示的脆弱性和拒绝模式的统计，提出了自我提炼和跨模型提炼的方法来提高大型语言模型的安全性和拒绝率的研究。
- 大型语言模型中的漏洞和保护探索：调查
大型语言模型是各种人工智能应用中的关键组件，理解它们的安全漏洞和防御机制的有效性至关重要。本文调查了 LLMs 的安全挑战，重点关注两个主要领域：Prompt Hacking 和 Adversarial Attacks，每个领域都有特定类型 - 评估基于生成式的大型多模态模型与基于微调的视觉转换器在基于图像的安全应用中的功效
研究了用于解决关键安全挑战的提示引擎 Gemini-pro 多模态模型和精调 ViT 模型的适用性和效果，发现 Gemini-pro 在准确性和可靠性方面存在明显差异，而精调的 ViT 模型在两个任务上表现出色，达到近乎完美的性能。
- 通信流量特征揭示物联网设备身份
使用基于监督机器学习的设备指纹模型，仅利用通信流量特征（或隐含标识符）来识别网络连接的物联网设备，达到了对 22 个智能家居物联网设备进行分类的 98% 准确率，从而提高网络安全性。
- 生成模型安全性：挑战与对策
探讨生成式人工智能所带来的独特安全挑战，并提出了管理这些风险的潜在研究方向。
- 大型语言模型中越狱攻击的跨语言调查
通过广泛的实证研究，我们对多语言越狱攻击进行了深入探究，提出了一种新的语义保持算法来创建多语言越狱数据集，并对包括 GPT-4 和 LLaMa 在内的开源和商业语言模型进行了详尽评估，并实施了微调缓解方法。我们的发现显示出，我们的缓解策略显 - 通过基于 AI 的反应系统解决网络攻击问题：综述与未来展望
综述了人工智能在网络安全中应对威胁系统的最新进展，提供了对人工智能与网络安全交叉领域的全面分析，指出了未来研究的挑战。
- 关于使用人类反馈进行强化学习对大型语言模型的可利用性研究
通过 RankPoison 的毒化攻击生成带指定的恶意行为的污染数据集，可以对 LLMs 进行攻击，生成更长的令牌，而不损害原始安全对齐性能，这突显了 RLHF 中存在的关键安全挑战，强调了 LLMs 更强韧对齐方法的必要性。
- 智能证书在金融业 Web3 应用中对抗网络威胁的体系结构
本研究旨在解决当前互联网转型所面临的安全挑战，特别关注区块链和去中心化存储等新兴技术，并探讨 Web3 应用在塑造互联网未来方面的作用。主要目标是提出一种新颖的 “智能证书” 设计，通过可编程强制执行的数字证书，企业能够更好地保护自身免受网 - 基于云计算或雾计算的人工智能应用的安全挑战
云端或雾计算的机器学习服务面临多个安全挑战，安全保障基础的云端或雾服务至关重要，攻击这些服务将对机器学习应用造成重大影响。根据应用于云端或雾计算网络的人工智能应用需求的不同，产生不同的威胁或攻击可能性，因此对安全需求也不同。本文通过将服务移 - 联邦学习的安全与隐私问题
分布式学习中的联邦学习存在安全和隐私挑战，本研究针对各类机器学习模型，包括大型语言模型，提出了安全和隐私挑战的综合分类，重点关注聚合器和参与者的攻击，包括投毒攻击、后门攻击、成员推断攻击、生成对抗网络攻击和差分隐私攻击，同时提出了未来研究的 - 发现 DALLE-2 的隐藏词汇
我们发现 DALLE-2 似乎有一个隐藏的词汇表，可以用于生成荒谬的提示图像，我们使用黑盒方法发现了这些随机单词与视觉概念之间的某种对应关系，这会带来重要的安全性和可解释性挑战。
- AAAI联邦学习：在数据智能和隐私之间取得平衡
本文提供了一种系统的概述和分类，涵盖了联邦学习的现有安全挑战以及针对数据污染，推断攻击和模型毒化攻击的防御技术。此外，还探讨了处理非独立同分布数据、高维度问题和异构架构的联邦学习的当前训练挑战，并提出了解决相关挑战的几种解决方案。最后，我们 - 6G 无线通信的上下文感知安全与物理层安全的角色
第六代系统将面临新的安全挑战，同时在无线边缘开辟了新的前沿，该文档提出了利用物理层安全解决方案来增强第六代无线通信系统的安全，并改进其灵活性和自适应性，为其赋予了上下文感知的特征。
- 未来智能电网的区块链技术：一项全面调查
本文对区块链技术在智能电网中的应用进行了全面调查，主要针对智能电网出现的安全挑战提出了使用区块链进行解决的方案，并总结了最近涌现的基于区块链的研究、实践项目和产品，最后探讨了应用区块链解决智能电网安全问题的未来方向和研究挑战。
- 车联网及其接入技术安全漏洞及对策综述
本文从三个方面研究了连接和自主驾驶汽车的安全，包括安全攻击和对策，不同 VANETs 访问技术的安全性挑战与防范对策以及不同访问技术的性能、安全挑战和异构技术的比较。研究结果表明，VANETs 实体失控将损害道路用户的安全、隐私和安全并可能 - MM机器学习应用于无人机蜂窝网络连接和安全
本文介绍了在细胞连接的无人机领域中所涉及到的无线连接和安全挑战，提出了基于人工神经网络的方案来适应性地利用无线系统资源并在保证实时安全的情况下解决挑战。
- 网络物理系统安全 -- 综述
在本文中，我们基于一个统一的框架对 CPS 安全的研究进行了系统化的概述，框架包含三个正交的坐标系，分别为从安全角度、CPS 组件角度、CPS 系统角度，旨在构建一个足够抽象的模型来适用于各种异构的 CPS 应用，并且为 CPS 组件的紧密