May, 2024

开源生成型人工智能的风险与机遇

PDF
TL;DR开源生成性人工智能（Gen AI）的应用在许多不同领域中具有革命性的潜力，可能引发对技术潜在风险的热烈讨论和对更严格监管的呼声。本研究使用三阶段框架对开源生成性人工智能模型的风险和机遇进行分析，并认为开源 Gen AI 的好处超过了风险，因此鼓励开源模型、训练和评估数据，并提供一系列管理与开源生成性人工智能相关风险的建议和最佳实践。
发现论文，激发创造
  • 开源生成式人工智能的近中期风险与机遇

    近年来，生成型人工智能的应用预计将在多个领域引起革命性的改变，领域范围涵盖科学、医学和教育等。这种巨大变革的潜力引发了有关潜在风险的激烈辩论，并引起了一些主导 AI 开发的科技巨头呼吁加强监管的声音。然而，这种监管可能会对开源的生成型 AI 领域产生不利影响。我们主张在即将到来以及中期的时段内进行负责任的开源生成型 AI 模型。为了设定背景，我们首先引入了一个 AI 开放性分类系统，并将其应用于 40 个当前的大型语言模型。然后我们总结了开放源代码和封闭源代码 AI 的不同益处和风险，并提出了从最佳实践到技术和科学贡献的潜在风险缓解措施。我们希望本报告能为当前关于近中期 AI 安全和其他社会影响的公共讨论添加一些急需的声音。

    Apr, 2024

  • 生成人工智能模型：行业和机构的机会与风险

    生成式 AI 模型的应用带来了数字化机会，同时也引入了新的 IT 安全风险。在将生成式 AI 集成到工作流程中之前，公司、机构、开发者和操作员都应进行风险分析，并相应地调整和采取安全措施。

    Jun, 2024

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 软件开发者在生成式人工智能应用中的法律问题

    近年来，生成人工智能（GenAI）取得了一系列的成功，能够生成高质量的代码、自然语言和图像。接下来的任务是将 GenAI 技术整合到产品中，这是软件开发人员通常进行的任务。在本文中，我们着重介绍了两种与产品开发涉及的风险：数据保护和版权问题。这两个方面对于 GenAI 来说至关重要，因为这项技术涉及用于模型训练和生成输出的数据。我们总结了关于当前知识的关键方面，每个使用 GenAI 进行产品开发的软件开发人员都应该注意这些方面，以避免可能导致责任索赔的重大错误。

    Apr, 2024

  • 开源高度高效基础模型：风险、效益和追求开源目标的替代方法评估

    AI 模型的开放资源化带来了风险和益处，并提出了替代性策略以确保安全地共享模型。

    Sep, 2023

  • 生成模型安全性：挑战与对策

    探讨生成式人工智能所带来的独特安全挑战，并提出了管理这些风险的潜在研究方向。

    Feb, 2024

  • 开放数据与生成型人工智能的场景谱系探索

    开放数据和生成式人工智能的关系及其可能带来的创新潜力是尚未完全探索的领域，本文提出了一种新的开放数据第四波的情景框架，其中列举了开放数据与生成式人工智能可能相交的一些情景并探讨了实现这些情景所需的数据质量和出处方面的要求，同时指出为了充分利用生成式人工智能从开放数据中获得更多的见解，并改善开放数据获取与使用，数据持有者首先必须在五个关键领域取得进展：增加透明度与文档化、维护质量与完整性、促进互操作性和标准化、提高可访问性与易用性、解决伦理考虑。

    May, 2024

  • 平衡透明度和风险：开源机器学习模型的安全与隐私风险

    通过介绍隐私和安全威胁，我们致力于提高人们对于使用开源模型时负责任和安全的意识。

    Aug, 2023

  • 企业生成人工智能治理

    基于调查最近的研究作品，这项综述填补了研究组织治理范围的空白，通过发展适用于公司的 GenAI 治理框架，超越了简单的总结，为公司利用 GenAI 的商业机会并抵御相关风险提供了目标和治理机制的大致范围。该研究提供了一个专注于 GenAI 治理的方法，为公司应对负责任的人工智能采用的挑战提供了实用的见解，同时也有助于技术人员开阔视野，以及发现新的研究方向。

    Feb, 2024

  • ChatGPT 和其他相似系统是 AI 的现代勒尔纳水蛇吗？

    本文旨在探讨如何保护开源代码的知识产权，特别是与 AI 生成代码的关系，提出改变开源代码许可证，鼓励立法行动等措施来保障 AI 系统未来发展并促进创新。

    Jun, 2023