Mar, 2024

模型开放性框架：推动人工智能的可复制性、透明度和可用性的完整性与开放性

PDF
TL;DR生成人工智能（GAI）提供了前所未有的可能性，但其商业化引发了关于透明性、可重复性、偏见和安全性的担忧。我们提出了模型开放性框架（MOF），它是一个按照开放科学、开放源代码、开放数据和开放获取原则对机器学习模型进行评级分类的系统。MOF 要求模型开发生命周期的特定组成部分必须包括并以适当的开放许可发布。该框架旨在防止声称开放的模型的误导，指导研究人员和开发人员以自由许可发布所有模型组件，并帮助公司、学术界和爱好者识别可以安全无限制采用的模型。MOF 的广泛采用将促进更加开放的人工智能生态系统，加速研究、创新和采纳。
generative aimodel openness frameworktransparencyreproducibilityopen science
发现论文，激发创造
  • 揭开 ChatGPT：跟踪指导调整的文本生成器 中的开放性、透明度和问责制

    本文简要回顾了 OpenAI 的 ChatGPT 及其开源类似项目，并评估它们在代码可访问性、数据、许可证、训练以及 fine-tuning 等方面的开放程度。我们发现，尽管有许多声称为 “开源” 的项目，但是其中大部分存在不确定的数据来源以及缺乏充分的文档说明，缺少重要的注释调整，有意识的科学文档非常罕见，而这些因素在公平性和责任性方面都显得非常重要。

    Jul, 2023

  • 开源高度高效基础模型：风险、效益和追求开源目标的替代方法评估

    AI 模型的开放资源化带来了风险和益处，并提出了替代性策略以确保安全地共享模型。

    Sep, 2023

  • 开源生成式人工智能的近中期风险与机遇

    近年来，生成型人工智能的应用预计将在多个领域引起革命性的改变，领域范围涵盖科学、医学和教育等。这种巨大变革的潜力引发了有关潜在风险的激烈辩论，并引起了一些主导 AI 开发的科技巨头呼吁加强监管的声音。然而，这种监管可能会对开源的生成型 AI 领域产生不利影响。我们主张在即将到来以及中期的时段内进行负责任的开源生成型 AI 模型。为了设定背景，我们首先引入了一个 AI 开放性分类系统，并将其应用于 40 个当前的大型语言模型。然后我们总结了开放源代码和封闭源代码 AI 的不同益处和风险，并提出了从最佳实践到技术和科学贡献的潜在风险缓解措施。我们希望本报告能为当前关于近中期 AI 安全和其他社会影响的公共讨论添加一些急需的声音。

    Apr, 2024

  • 平衡透明度和风险：开源机器学习模型的安全与隐私风险

    通过介绍隐私和安全威胁，我们致力于提高人们对于使用开源模型时负责任和安全的意识。

    Aug, 2023

  • 开源生成型人工智能的风险与机遇

    开源生成性人工智能（Gen AI）的应用在许多不同领域中具有革命性的潜力，可能引发对技术潜在风险的热烈讨论和对更严格监管的呼声。本研究使用三阶段框架对开源生成性人工智能模型的风险和机遇进行分析，并认为开源 Gen AI 的好处超过了风险，因此鼓励开源模型、训练和评估数据，并提供一系列管理与开源生成性人工智能相关风险的建议和最佳实践。

    May, 2024

  • 生成式人工智能的发展路径：方法与考虑

    提出了一个六级访问框架，从全闭合到全开放，各级之间可以被视为梯度选项，阐述了全球发电 AI 系统的释放方法、趋势和风险控制等问题。

    Feb, 2023

  • 软件工程的更高智能化

    通过开发新一代的 “Morescient” GAI 模型和相应的软件观测平台，该论文展示了如何根据开放科学原则构建、演进和传播这种同时理解软件语义和静态结构的生成型人工智能模型。

    Jun, 2024

  • 开放数据表：机器可读的开放数据集文档和负责任的人工智能评估

    介绍了一种无代码、机器可读的开放数据集文档框架，关注负责任的人工智能考虑。旨在提高开放数据集的可访问性、可理解性和可用性，促进更容易发现和使用、更好理解内容和背景以及评估数据集的质量和准确性。该框架旨在简化数据集评估，帮助研究人员、数据科学家和其他开放数据用户快速识别满足其需求和 / 或组织政策或法规的数据集。论文还讨论了该框架的实施，并提供了最大化其潜力的建议。预期该框架将提高研究和决策中使用的数据的质量和可靠性，促进更负责任和值得信赖的人工智能系统的发展。

    Dec, 2023

  • 机器学习中的模型无关解释框架：在 NBA 体育中的比较研究

    机器学习研究领域近年来取得巨大进展，深度学习模型在各种任务上表现出色。然而，这些模型往往在可解释性方面存在不足，因为它们作为不透明的 “黑盒子” 运行，使其决策背后的原理被遮蔽。为了解决这一挑战，我们的研究团队提出了一个创新框架，旨在权衡模型性能和可解释性之间的折衷。我们的方法以对高维数据的模块化操作为核心，可以进行端到端处理同时保持可解释性。通过融合多样化的解释技术和模块化数据处理，我们的框架可以揭示复杂模型的决策过程，而不损害其性能。我们广泛测试了我们的框架，并验证了其在实现计算效率和可解释性之间取得协调平衡方面的卓越成效。我们的方法通过在各个领域的部署中提供前所未有的对复杂模型内部工作原理的洞察，促进信任、透明度和问责制，满足当代机器学习应用的关键需求。

    Jan, 2024

  • 开放源码的基于人工智能的软件工程工具：协作学习的机遇与挑战

    利用联邦学习技术，我们提出一个治理框架以促进开源人工智能模型的共同开发和维护，确保数据隐私和安全，解决开源人工智能软件工程工具在获取组织资源时面临的障碍。我们还提供开发者的指南，包括数据需求、模型架构、更新策略和版本控制，以促进基于人工智能的软件工程工具的合作。此外，我们的研究还探讨了代码数据异质性对联邦学习性能的影响。

    Apr, 2024