Feb, 2024

企业生成人工智能治理

PDF
TL;DR基于调查最近的研究作品，这项综述填补了研究组织治理范围的空白，通过发展适用于公司的 GenAI 治理框架，超越了简单的总结，为公司利用 GenAI 的商业机会并抵御相关风险提供了目标和治理机制的大致范围。该研究提供了一个专注于 GenAI 治理的方法，为公司应对负责任的人工智能采用的挑战提供了实用的见解，同时也有助于技术人员开阔视野，以及发现新的研究方向。
generative artificial intelligencelarge language modelsorganizational governancegenai governanceresponsible ai adoption
发现论文，激发创造
  • 负责任机器学习系统的 AI 治理简介

    本文探讨了人工智能技术的风险，并介绍了一种名为 AI 治理的框架，以确保人工智能的负责任使用，从而避免和减轻包括监管、合规性、声誉、用户信任、财务和社会风险在内的风险。

    Nov, 2022

  • AI 的治理、由 AI 治理、为 AI 治理

    人工智能技术快速发展，已经在艺术创作、文字生成和编程等多个领域带来深刻变革，然而，智能技术的出现也在挑战人类的治理能力以及智能技术自身的治理问题。本文基于机器学习算法，通过分析人类治理人工智能的方式，探讨了人工智能接管人类的可能性，提出了人工智能治理的思路及建议。

    May, 2023

  • 生成型人工智能的社会影响：ChatGPT 分析

    该论文采用一种方法来研究生成式 AI 工具对社会的影响，主要关注 ChatGPT 这一案例，评估其对社会各个领域的潜在影响，并阐述综合文献回顾的研究结果，包括正面效应、负面效应、新兴趋势和机遇领域，该分析旨在提供深入讨论的见解，从而激励政策、规范和负责任的发展实践，促进以人为中心的人工智能。

    Mar, 2024

  • 双重治理：中央监管与众包安全机制在生成式人工智能中的交叉

    通过实施 Dual Governance 框架，我们认为可以促进创新和创造力，同时确保生成 AI 的安全和道德部署。

    Aug, 2023

  • 鉴定和减轻生成式人工智能的安全风险

    生成式人工智能技术（GenAI）可能被用于积极和消极目的，这篇论文讨论了 GenAI 所带来的双重用途困境，并提出了针对此问题的短期和长期目标，旨在引发学术界对此重要主题的深入讨论。

    Aug, 2023

  • 规范 ChatGPT 和其他大型生成型 AI 模型

    论文将新的生成模型 LGAIMs 置于当前的信任人工智能法规辩论中，并探讨如何量身定制法律条款以适应其能力，主要包括直接管制、数据保护、内容管理等，并提出四种策略以确保 LGAIMs 可信并为社会利益服务。

    Feb, 2023

  • 从指南到治理：教育领域人工智能政策研究

    该研究通过调查方法检查了高中校长和高等教育主任们对促进人工智能等生成 AI 工具在教育环境中的伦理部署的政策现状，结果显示出存在重要政策空白、缺乏对学生隐私和算法透明度等关键问题的政策，并强调在教育背景下需要灵活迭代的政策框架。

    Mar, 2024

  • 构建科学研究中生成型人工智能的道德准则

    发展分析和缓解策略，提供了一个初始框架来理解模型限制、尊重隐私、保密和版权、避免抄袭和政策违规、确保应用程序提供整体利益，并透明可重现地使用人工智能，以保护研究的完整性。

    Jan, 2024

  • 高等教育中的生成人工智能：机构政策和指南分析的证据

    通过研究 116 所美国高研活跃度大学产生的文件，全面了解高校为机构相关利益相关者提供的关于生成人工智能的建议与指导。基于我们的研究发现，大多数高校鼓励使用生成人工智能，并提供了详细指导，尤其是在课堂中的使用。然而，要注意的是，该研究建议教师指导的指南可能会加重其工作负担，因为往往需要对教学方法进行广泛的修订。

    Jan, 2024

  • 赋能商业转型：生成式人工智能在软件产品管理中的正面影响及伦理考虑 —— 系统文献综述

    利用 2016 年至 2023 年的相关文章进行的系统文献评价显示：生成型人工智能（GAI）可应用于软件产品管理，包括在需求工程、产品开发和市场调研中提供帮助，但其准确性、可靠性和道德问题仍待解决。最终，生成型人工智能的实际应用可以显著提高软件产品管理活动，实现更有效地利用资源，更好的产品结果和改进的最终用户体验。

    Jun, 2023