生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

Aug, 2023

这篇论文讨论了生成型人工智能（GenAI）和大型语言模型（LLMs）的潜在滥用风险和社会影响，并提出了应对挑战和准备的思考。

Oct, 2023

在 AI-as-a-Service（AIaaS）背景下，我们对社会伤害的研究现状进行批判性总结，重点关注其影响，并提出开放性研究问题，以定义未来的研究方向。

Mar, 2024

人工智能生成技术和大型模型产生了现实感十足的输出，但盲目使用合成数据可能导致模型性能下降和伦理问题，因此需要平衡使用真实数据和合成数据的方法来优化结果。这篇综述研究了在生成模型中盲目整合合成数据对图像和文本模态的训练的后果，并探索了缓解这些影响的策略，旨在提供合成数据使用的全面视角，倡导平衡方法并探索在大型模型时代促进生成式人工智能技术可持续发展的实践。

May, 2024

本文提出方案利用 Cyber Kill Chain 对 Generative Artificial Intelligence 技术进行威胁抵御，通过强化侦测、欺骗以及对抗等多种策略有效减轻 GenAI 引起的网络攻击风险。

Jun, 2023

生成式 AI 模型的应用带来了数字化机会，同时也引入了新的 IT 安全风险。在将生成式 AI 集成到工作流程中之前，公司、机构、开发者和操作员都应进行风险分析，并相应地调整和采取安全措施。

Jun, 2024

滥用民用人工智能（AI）可能对国家和国际安全构成严重威胁，本文通过定义自主系统并解释 AI 开发的特点来展示已存在且公开可用的 AI 技术如何被滥用，进一步开发了三个潜在被滥用的 AI 使用案例，威胁政治、数字和实体安全，这些案例可以通过现有的学术界、私营部门和开发者社区的 AI 技术组件组合成自主武器系统，基于这些案例，我们总结了控制点和进一步措施，以防止通过滥用 AI 产生潜在威胁，并倡议在自主武器系统（AWS）讨论中考虑民用 AI 系统的滥用。

Mar, 2024

通过分析语音生成事件，我们提出了一个模型 AI 伦理和安全风险路径的概念框架，该框架可用于开发语音生成器的伤害分类法，并支持相应的政策干预和决策制定。

Jan, 2024

鉴于生成式人工智能（GenAI）的进展引发了对检测和区分人工生成内容和人类生成内容的关注，本研究通过 2022 年至 2023 年的纵向民族志研究发现，GenAI 支持拼凑工作，即非专家越来越多地使用 GenAI 来重新混合、重新包装和（重新）生成内容以满足他们的个人需求和欲望。本研究得出了四个主要发现：首先，参与者主要使用 GenAI 进行创作，而不是寻求真相。其次，传播 “影响力百万富翁” 叙事推动参与者成为内容创作者，使用 GenAI 作为生产工具来生成大量（通常是误导性的）内容。第三，GenAI 降低了跨模态内容创作的门槛，吸引消费者成为创作者并显著增加现有创作者的产出。最后，参与者使用 GenAI 学习和使用营销策略来扩大参与度并将其内容商品化。我们主张将分析焦点从将公众视为 AI 内容的消费者转向将他们视为创作工者，他们在很大程度上无需了解其基础技术。我们分析了这些较少研究的 GenAI 新兴用途如何产生新的或加速的误导危害，并探讨了它们对 AI 产品、平台和政策的影响。

May, 2024

本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。

Jun, 2023