Jun, 2023

生成式人工智能技术对网络防御的影响和风险

PDF
TL;DR本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御，通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。
generative artificial intelligencecybersecuritycyber kill chainphishingdeepfake videos
发现论文，激发创造
  • 从 ChatGPT 到 ThreatGPT：生成式人工智能在网络安全与隐私中的影响

    本论文研究了生成 AI 模型的漏洞与潜在威胁，并讨论了社会、法律和伦理方面的影响，提出了防御技术和道德准则，并探讨了未来的研究方向。

    Jul, 2023

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 生成模型安全性：挑战与对策

    探讨生成式人工智能所带来的独特安全挑战，并提出了管理这些风险的潜在研究方向。

    Feb, 2024

  • 网络影响操作中的合成图像生成：一种新兴威胁？

    人工智能的发展催生了数字内容生成的转变，特别对网络影响操作产生了深远的影响。本文研究了扩散模型等生成深度学习模型在制造令人信服的合成图像方面的潜力和局限性，并对这些工具的可接近性、实用性和输出质量进行了批判性评估，同时分析了它们在欺骗、影响和颠覆威胁情景中的影响。在几个假设的网络影响操作中，本报告生成内容来展示这些 AI 驱动方法当前的能力和局限性。虽然生成模型擅长生成插图和非现实的图像，但创建令人信服的逼真照片内容仍面临重大挑战，受计算资源和必须人工指导改进的必要性限制。我们的探索强调了技术进步和其滥用潜力之间的微妙平衡，推动进行持续研究、防御机制、多学科合作和政策发展。这些建议旨在利用人工智能的潜力产生积极的影响，同时防范对信息完整性的风险，尤其是在网络影响的背景下。

    Mar, 2024

  • 生成人工智能模型：行业和机构的机会与风险

    生成式 AI 模型的应用带来了数字化机会，同时也引入了新的 IT 安全风险。在将生成式 AI 集成到工作流程中之前，公司、机构、开发者和操作员都应进行风险分析，并相应地调整和采取安全措施。

    Jun, 2024

  • 应用生成人工智能和大型语言模型的险恶行为

    这篇论文讨论了生成型人工智能（GenAI）和大型语言模型（LLMs）的潜在滥用风险和社会影响，并提出了应对挑战和准备的思考。

    Oct, 2023

  • SecGenAI: 加强云端生成 AI 应用在澳大利亚国家利益关键技术中的安全性

    SecGenAI 是一个云基 Generative AI 应用的全面安全框架，重点关注 Retrieval-Augmented Generation (RAG) 系统，并通过结合先进的机器学习技术和强大的安全措施，确保符合澳大利亚法规，增强 GenAI 系统的可靠性和可信性，提供安全 GenAI 实施的可操作策略，促进 AI 应用的创新并保护国家利益。

    Jul, 2024

  • 物联网中生成式人工智能的安全风险关切

    本文研究了物联网和生成式人工智能（AI）交叉融合的时代中，这种整合中所固有的新兴安全风险。我们探讨了生成式人工智能在物联网中推动创新的方式，并分析了在使用生成式人工智能时可能发生数据泄露以及在物联网生态系统中滥用生成式人工智能技术的潜力。这些风险不仅威胁到物联网系统的隐私和效率，而且对 AI 驱动环境中的信任和安全性产生广泛的影响。本文讨论还延伸到缓解这些风险的战略方法，包括开发健壮的安全协议、多层次安全方法和采用 AI 技术解决方案。通过全面分析，本文旨在阐明在物联网中拥抱 AI 进步和确保严格安全之间的关键平衡，并提供对这些交织技术未来方向的洞察。

    Mar, 2024

  • 生成人工智能滥用方法分类及来自实际数据的洞见

    通过对现有学术文献和大约 200 起滥用报告事件的定性分析，我们提出了一种基于深度学习和多模态人工智能的滥用策略分类方法，并揭示了滥用的关键模式、潜在动机和攻击者如何利用系统能力的方式。

    Jun, 2024

  • 探究生成人工智能和互联网相互作用

    本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。

    Jun, 2023