Jul, 2024

SecGenAI: 加强云端生成 AI 应用在澳大利亚国家利益关键技术中的安全性

PDF
TL;DRSecGenAI 是一个云基 Generative AI 应用的全面安全框架，重点关注 Retrieval-Augmented Generation (RAG) 系统，并通过结合先进的机器学习技术和强大的安全措施，确保符合澳大利亚法规，增强 GenAI 系统的可靠性和可信性，提供安全 GenAI 实施的可操作策略，促进 AI 应用的创新并保护国家利益。
发现论文，激发创造
  • 生成式人工智能技术对网络防御的影响和风险

    本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御，通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。

    Jun, 2023

  • 边缘云计算的规模化生成人工智能概览

    本文概述了生成人工智能和边缘云计算的最新发展，并利用两个示例应用程序讨论了使用边缘云协作系统扩大其解决方案的技术挑战。最后，我们列出了在规模上训练和部署 GenAI 系统的设计注意事项，并指出了未来的研究方向。

    Jun, 2023

  • 生成模型安全性：挑战与对策

    探讨生成式人工智能所带来的独特安全挑战，并提出了管理这些风险的潜在研究方向。

    Feb, 2024

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 从 ChatGPT 到 ThreatGPT：生成式人工智能在网络安全与隐私中的影响

    本论文研究了生成 AI 模型的漏洞与潜在威胁，并讨论了社会、法律和伦理方面的影响，提出了防御技术和道德准则，并探讨了未来的研究方向。

    Jul, 2023

  • AIGC 隐私与安全挑战及其补救：探索隐私计算、区块链等技术的潜力

    本文系统地回顾了 AIGC 的概念、分类和基础技术，讨论了从多个角度面临的隐私和安全挑战，并针对性地列出了当前存在的应对措施。作者希望这项调查能帮助研究人员和企业构建更安全、更健壮的 AIGC 系统。

    Jun, 2023

  • 物联网中生成式人工智能的安全风险关切

    本文研究了物联网和生成式人工智能（AI）交叉融合的时代中，这种整合中所固有的新兴安全风险。我们探讨了生成式人工智能在物联网中推动创新的方式，并分析了在使用生成式人工智能时可能发生数据泄露以及在物联网生态系统中滥用生成式人工智能技术的潜力。这些风险不仅威胁到物联网系统的隐私和效率，而且对 AI 驱动环境中的信任和安全性产生广泛的影响。本文讨论还延伸到缓解这些风险的战略方法，包括开发健壮的安全协议、多层次安全方法和采用 AI 技术解决方案。通过全面分析，本文旨在阐明在物联网中拥抱 AI 进步和确保严格安全之间的关键平衡，并提供对这些交织技术未来方向的洞察。

    Mar, 2024

  • 在生成类人工智能时代的黎明：关于 6G 无线智能的新前沿的教程与综述

    通过对 6G 网络研究中的数据驱动的无线研究、生成式人工智能、生成模型、GMs 和 6G 网络研究等关键词进行分析，本文介绍了生成模型的教程和调查，并对无线研究领域的核心问题进行了回顾和分析，提出了 GMs 在 6G 网络研究的重要作用，并针对未来可能面临的挑战提供了潜在的策略和有希望的解决办法。

    Feb, 2024

  • 企业生成人工智能治理

    基于调查最近的研究作品，这项综述填补了研究组织治理范围的空白，通过发展适用于公司的 GenAI 治理框架，超越了简单的总结，为公司利用 GenAI 的商业机会并抵御相关风险提供了目标和治理机制的大致范围。该研究提供了一个专注于 GenAI 治理的方法，为公司应对负责任的人工智能采用的挑战提供了实用的见解，同时也有助于技术人员开阔视野，以及发现新的研究方向。

    Feb, 2024

  • 关注论文：生成式人工智能如何重塑数字阴影产业？

    本文分析了 AIGC 技术在黑色和灰色互联网产业的上中下游路径中对 DRM 系统的挑战和机遇，探讨了生成式 AI 技术引发的新黑色和灰色技术，并提出了提高现有风险控制系统的未来方向。

    May, 2023