生成人工智能模型：行业和机构的机会与风险
生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。
Aug, 2023
开源生成性人工智能（Gen AI）的应用在许多不同领域中具有革命性的潜力，可能引发对技术潜在风险的热烈讨论和对更严格监管的呼声。本研究使用三阶段框架对开源生成性人工智能模型的风险和机遇进行分析，并认为开源 Gen AI 的好处超过了风险，因此鼓励开源模型、训练和评估数据，并提供一系列管理与开源生成性人工智能相关风险的建议和最佳实践。
May, 2024
本文研究了物联网和生成式人工智能（AI）交叉融合的时代中，这种整合中所固有的新兴安全风险。我们探讨了生成式人工智能在物联网中推动创新的方式，并分析了在使用生成式人工智能时可能发生数据泄露以及在物联网生态系统中滥用生成式人工智能技术的潜力。这些风险不仅威胁到物联网系统的隐私和效率，而且对 AI 驱动环境中的信任和安全性产生广泛的影响。本文讨论还延伸到缓解这些风险的战略方法，包括开发健壮的安全协议、多层次安全方法和采用 AI 技术解决方案。通过全面分析，本文旨在阐明在物联网中拥抱 AI 进步和确保严格安全之间的关键平衡，并提供对这些交织技术未来方向的洞察。
Mar, 2024
近年来，生成型人工智能的应用预计将在多个领域引起革命性的改变，领域范围涵盖科学、医学和教育等。这种巨大变革的潜力引发了有关潜在风险的激烈辩论，并引起了一些主导 AI 开发的科技巨头呼吁加强监管的声音。然而，这种监管可能会对开源的生成型 AI 领域产生不利影响。我们主张在即将到来以及中期的时段内进行负责任的开源生成型 AI 模型。为了设定背景，我们首先引入了一个 AI 开放性分类系统，并将其应用于 40 个当前的大型语言模型。然后我们总结了开放源代码和封闭源代码 AI 的不同益处和风险，并提出了从最佳实践到技术和科学贡献的潜在风险缓解措施。我们希望本报告能为当前关于近中期 AI 安全和其他社会影响的公共讨论添加一些急需的声音。
Apr, 2024
我们旨在识别现代生成 AI 范例中尚未解决的主要挑战，以进一步增强其能力、多样性和可靠性，并为研究人员提供有价值的见解，以探索更有成效的研究方向，从而促进更强大和可访问的生成 AI 解决方案的发展。
Feb, 2024
近年来，生成人工智能（GenAI）取得了一系列的成功，能够生成高质量的代码、自然语言和图像。接下来的任务是将 GenAI 技术整合到产品中，这是软件开发人员通常进行的任务。在本文中，我们着重介绍了两种与产品开发涉及的风险：数据保护和版权问题。这两个方面对于 GenAI 来说至关重要，因为这项技术涉及用于模型训练和生成输出的数据。我们总结了关于当前知识的关键方面，每个使用 GenAI 进行产品开发的软件开发人员都应该注意这些方面，以避免可能导致责任索赔的重大错误。
Apr, 2024
本文研究探讨了生成 AI 技术中，AI 加入真实数据之后可能会产生回馈循环并导致未来模型的降级和多样性降低的情况，从而产生社会影响。同时，对于如何缓解这种回馈循环以及降低未来技术模型降级的影响也提出了相关问题。
Jun, 2023
近年来，生成性人工智能（GenAI）如大型语言模型和文本到图像模型，在各个领域引起了重大关注。然而，确保这些模型生成的内容是负责任的对于它们在实际应用中的重要性至关重要。本文就文本和图像生成模型的实际负责任要求进行了调查研究，概述了五个关键考虑因素：生成真实内容、避免有害内容、拒绝有害指令、泄露与训练数据相关的内容以及确保生成的内容可识别。具体来说，我们回顾了解决这些要求的最新进展和挑战。此外，我们讨论并强调了在医疗保健、教育、金融和人工智能领域中负责任的 GenAI 的重要性。通过统一的文本和图像生成模型视角，本文旨在为实际安全相关问题提供见解，并进一步造福于建设负责任的 GenAI 了解相关社区。
Apr, 2024
施工行业的生成性人工智能技术的机会和挑战，以及基于自身数据构建定制生成性人工智能解决方案的框架的最新状态分析，为学术界和建筑专业人员提供综合分析和实用框架，以指导生成性人工智能技术在提高建筑行业的生产力、质量、安全性和可持续性方面的应用。
Feb, 2024