Feb, 2024

认真对待培训：人类引导和基于管理的人工智能监管

PDF
TL;DR在这篇论文中，我们讨论了 AI 管理型监管框架与训练过程中人类监督之间的联系，最终得出人类引导训练比仅依赖数据训练更能应对高风险 AI 用例，提高 AI 性能及解决公平性和可解释性问题的结论。
artificial intelligencemanagement-based regulationhuman-guided trainingfairnessexplainability
发现论文，激发创造
  • 风险导向的人工智能监管的风险：认真对待责任

    欧盟人工智能法案是一项基于风险的前瞻性监管方法，旨在预防某些有害结果，并提倡对数据质量和人工监督进行批判性检查；我们建议将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。

    Nov, 2023

  • 走向可规管的 AI 系统：技术差距与政策机遇

    本文探讨如何规范人工智能系统，研究发现通过两个公共部门采购清单可标识现在和未来技术创新方面的人工智能是否符合规定要求，并且确认需跨学科合作来满足某些要求。

    Jun, 2023

  • 规管人工智能：全球解决方案建议

    为了最大化人工智能技术的好处并最小化其风险，我们需要一个国际的人工智能治理框架，包括一个新的人工智能监管机构来制定规范统一的 AI 技术标准并协调世界各地的政策制定。

    May, 2020

  • 使用视觉语言模型指导人类决策者的学习

    机器学习模型在高风险任务中辅助人类决策，通过提供可解释且任务特定的指导，而不是取代人类专家的决策能力。

    Mar, 2024

  • 解决问题，收获利益 ——AI 监管争议的系统回顾

    本文系统综述了国际上共 73 篇针对人工智能 (AI) 监管的学术论文，重点关注社会风险、监管责任和可能的政策框架，包括基于风险和基于原则的方法。研究发现 AI 领域的复杂性，以及其尚未成熟和缺乏明确性。通过与欧洲 AI 监管建议的比较，本文展示了该监管的具体方法、优点和缺点，有助于更好的理解 AI 和监管之间的关系及其中的规范决策。

    Sep, 2022

  • 人工智能监管政策的综合评述与系统分析

    通过全球的 AI 监管政策提案，历史教训和分析方法的研究，我们旨在通过一种分而治之的方式帮助管理机构解决 AI 监管混乱。

    Jul, 2023

  • AI 安全之法律研究

    人工智能系统如何安全并与人类价值相一致是一个开放性的研究问题，本文提出有效的法律制度是解决人工智能安全性的最佳途径。

    Jul, 2023

  • 负责任机器学习系统的 AI 治理简介

    本文探讨了人工智能技术的风险，并介绍了一种名为 AI 治理的框架，以确保人工智能的负责任使用，从而避免和减轻包括监管、合规性、声誉、用户信任、财务和社会风险在内的风险。

    Nov, 2022

  • 欧洲的人工智能监管：从 AI 法案到未来监管挑战

    欧盟 AI 监管、混合监管策略、AI 法案等关键词所涵盖的论文讨论了 AI 监管的复杂性以及现行 AI 法案的不足，并呼吁建立协议以规范高性能开源 AI 系统的访问，以进一步完善 AI 技术的有效治理。

    Oct, 2023

  • 学习何时向人类决策者提供建议

    通过对已有的案例进行分析，本文提出了交互式人工智能决策辅助系统的设计，旨在通过学习人类的选择来决定何时提供算法支持，从而提高决策的准确性和可靠性。作者在美国刑事司法系统的前期释放审判方面进行了大规模实验，并发现交互式辅助系统能够在必要的时候提供准确的建议，与固定的非交互式系统相比较，可以显著提高人类的决策水平。同时，交互式辅助系统还具有促进人类学习、保护人类决策者补充优势、促进对建议的更积极响应等优点。

    Sep, 2022