生成模型安全性：挑战与对策
生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。
Aug, 2023
本文研究了物联网和生成式人工智能（AI）交叉融合的时代中，这种整合中所固有的新兴安全风险。我们探讨了生成式人工智能在物联网中推动创新的方式，并分析了在使用生成式人工智能时可能发生数据泄露以及在物联网生态系统中滥用生成式人工智能技术的潜力。这些风险不仅威胁到物联网系统的隐私和效率，而且对 AI 驱动环境中的信任和安全性产生广泛的影响。本文讨论还延伸到缓解这些风险的战略方法，包括开发健壮的安全协议、多层次安全方法和采用 AI 技术解决方案。通过全面分析，本文旨在阐明在物联网中拥抱 AI 进步和确保严格安全之间的关键平衡，并提供对这些交织技术未来方向的洞察。
Mar, 2024
生成式 AI 模型的应用带来了数字化机会，同时也引入了新的 IT 安全风险。在将生成式 AI 集成到工作流程中之前，公司、机构、开发者和操作员都应进行风险分析，并相应地调整和采取安全措施。
Jun, 2024
我们旨在识别现代生成 AI 范例中尚未解决的主要挑战，以进一步增强其能力、多样性和可靠性，并为研究人员提供有价值的见解，以探索更有成效的研究方向，从而促进更强大和可访问的生成 AI 解决方案的发展。
Feb, 2024
本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御，通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。
Jun, 2023
研究挑战性合成数据方案的企业部署，重点关注由大量个人高度敏感数据引起的隐私问题，并将挑战系统化为五个主要组别：i) 生成，ii) 基础架构和体系结构，iii) 治理，iv) 合规和规范，v) 采纳。此外，我们讨论了企业可以采用的战略和系统方法，以有效应对这些挑战并通过实现的解决方案建立信任。
Jul, 2023
生成式人工智能在模拟真实图像、文本和数据模式方面展示了令人瞩目的能力，然而，大规模数据集的使用引发了对数据隐私和版权侵权的担忧，传统方法只能提供问题的局部解决方案。我们的论文对数据生命周期内的隐私和版权保护面临的多层面挑战进行了深入研究，并主张综合技术创新与伦理思考来综合性地解决这些问题，以生命周期的视角开展调查和设计解决方案，旨在激发更广泛的讨论，并在生成式人工智能中积极推动数据隐私和版权完整性的共同努力。
Nov, 2023
开源生成性人工智能（Gen AI）的应用在许多不同领域中具有革命性的潜力，可能引发对技术潜在风险的热烈讨论和对更严格监管的呼声。本研究使用三阶段框架对开源生成性人工智能模型的风险和机遇进行分析，并认为开源 Gen AI 的好处超过了风险，因此鼓励开源模型、训练和评估数据，并提供一系列管理与开源生成性人工智能相关风险的建议和最佳实践。
May, 2024
泛人工智能与人类的互动达到了前所未有的规模，为巨大的积极影响提供了新途径，但也引发了广泛关注，担忧其对个体和社会可能造成的伤害。本文中，我们认为，对这些人工智能技术的有意义的安全保证只能通过思考人工智能输出与人类行为之间形成的反馈循环如何推动交互走向不同结果来实现。为此，我们设想了从控制论到人类中心的人工智能安全的快速增长能力之间的高价值契机，为未来几十年的人类中心人工智能安全奠定了新基础。
May, 2024