Mar, 2024

物联网中生成式人工智能的安全风险关切

PDF
TL;DR本文研究了物联网和生成式人工智能（AI）交叉融合的时代中，这种整合中所固有的新兴安全风险。我们探讨了生成式人工智能在物联网中推动创新的方式，并分析了在使用生成式人工智能时可能发生数据泄露以及在物联网生态系统中滥用生成式人工智能技术的潜力。这些风险不仅威胁到物联网系统的隐私和效率，而且对 AI 驱动环境中的信任和安全性产生广泛的影响。本文讨论还延伸到缓解这些风险的战略方法，包括开发健壮的安全协议、多层次安全方法和采用 AI 技术解决方案。通过全面分析，本文旨在阐明在物联网中拥抱 AI 进步和确保严格安全之间的关键平衡，并提供对这些交织技术未来方向的洞察。
internet of thingsgenerative aisecurity risksdata breachesai-driven environments
发现论文，激发创造
  • 生成式人工智能时代的物联网：视野与挑战

    利用产生式人工智能（Generative AI）将物联网（IoT）推向新水平，提供巨大的潜力和重要应用领域。然而，在实现物联网中充分利用 Generative AI 方面存在着一些关键挑战和机遇。

    Jan, 2024

  • 生成模型安全性：挑战与对策

    探讨生成式人工智能所带来的独特安全挑战，并提出了管理这些风险的潜在研究方向。

    Feb, 2024

  • 从生成式人工智能到生成式物联网：基础、框架与展望

    通过将生成式人工智能（GAI）与现代物联网（IoT）相结合，我们提出了生成式物联网（GIoT）的概念，并研究了其潜在前景。我们介绍了四种 GAI 技术，讨论了 GIoT 的应用，并提出了一个基于 GAI 的安全激励机制框架，使用生成扩散模型（GDMs）进行机制设计，并应用区块链技术进行安全的 GIoT 管理。最后，我们通过现代车辆的交通监测案例研究，展示了利用 GDMs 生成有效合同来激励用户提供高质量感知数据。未来还有一些值得研究的开放方向，以促进 GIoT 的普及。

    Oct, 2023

  • 生成人工智能模型：行业和机构的机会与风险

    生成式 AI 模型的应用带来了数字化机会，同时也引入了新的 IT 安全风险。在将生成式 AI 集成到工作流程中之前，公司、机构、开发者和操作员都应进行风险分析，并相应地调整和采取安全措施。

    Jun, 2024

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 智能物联网综述：应用、安全、隐私与未来发展方向

    本论文综合调查了智能物联网（IIoT）在移动网络中的重要应用以及与之相关的安全和隐私问题，并提出了若干关键挑战和潜在研究方向。

    Jun, 2024

  • 低碳人工智能物联网的生成性人工智能

    通过结合人工智能和物联网，人工智能物联网（AIoT）已经在许多领域引起革命。本文旨在探讨生成式人工智能（GAI）降低 AIoT 碳排放的潜力，并提出了一种新颖的 GAI 解决方案用于低碳 AIoT。我们首先研究引起 AIoT 碳排放的主要影响，然后介绍 GAI 技术及其与碳排放之间的关系。接下来，我们探索了 GAI 在低碳 AIoT 中的应用前景，重点讨论了 GAI 如何减少网络组件的碳排放。随后，我们提出了一个基于大型语言模型（LLM）的碳排放优化框架，框架中设计可插拔的 LLM 和检索增强生成（RAG）模块，以生成更准确可靠的优化问题。此外，我们利用生成扩散模型（GDM）识别碳排放减少的最佳策略。模拟结果证明了该框架的有效性。最后，我们提供低碳 AIoT 的未来研究方向。

    Apr, 2024

  • 生成式人工智能技术对网络防御的影响和风险

    本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御，通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。

    Jun, 2023

  • 人工智能在网络安全中的应用：威胁、攻击和缓解

    讨论了网络安全、网络威胁以及传统和智能防御措施，并最终以人工智能在网络安全领域未来的前景作为讨论的结尾。

    Sep, 2022

  • 探究生成人工智能和互联网相互作用

    本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。

    Jun, 2023