May, 2024

训练计算阈值：AI 治理中的特征与功能

PDF
TL;DR该论文研究了使用计算阈值作为治理人工智能系统的工具。我们认为，计算阈值不仅是规则的唯一决定因素，还可以作为评估人工智能模型的有价值的触发器。计算阈值的关键优势包括与模型的能力和风险的相关性，可量化性，易于衡量，对规避具有鲁棒性，在模型开发和部署之前可知性，具备外部验证的潜力，以及有针对性的范围。计算阈值为识别潜在高风险模型提供了实际的起点，并且可以作为人工智能治理框架中的初始过滤器，与其他行业特定的法规和更广泛的治理措施相结合。
compute thresholdsgoverning artificial intelligenceai systemsmodel capabilitiesai governance frameworks
发现论文，激发创造
  • 量化人工智能风险评估：机遇与挑战

    介绍了通过执行全面的 AI 生命周期治理来降低人工智能风险的最佳方法，定量评估现有模型的风险可以类比于如何评估已经建造的房屋的能源效率或医生根据一系列测试评估整体患者健康状况，本文探讨了这一思路，并讨论了这种方法如何改善 AI 的监管。

    Sep, 2022

  • 探索数据隐私增强技术对 AI 治理的相关性

    本文提出隐私增强技术在数据交换和分析中减小了隐私与性能之间的权衡，同样的工具可以为 AI 治理提供外部审查、审计和源代码验证的能力，并以信息流的方式查看这些不同的 AI 治理目标，强调了这些解决方案之间的互操作性和重要性。

    Mar, 2023

  • 负责任机器学习系统的 AI 治理简介

    本文探讨了人工智能技术的风险，并介绍了一种名为 AI 治理的框架，以确保人工智能的负责任使用，从而避免和减轻包括监管、合规性、声誉、用户信任、财务和社会风险在内的风险。

    Nov, 2022

  • 人工智能算法的控制与监测

    解释了在部署后管理人工智能模型的重要性，以及监控现有数据的分布与训练数据之间的潜在波动。阐明了数据漂移和概念漂移的概念以及它们各自的基础分布。此外，引入了一系列度量指标，可用于审查模型在潜在时间变化方面的性能。

    Jul, 2023

  • 走向可规管的 AI 系统：技术差距与政策机遇

    本文探讨如何规范人工智能系统，研究发现通过两个公共部门采购清单可标识现在和未来技术创新方面的人工智能是否符合规定要求，并且确认需跨学科合作来满足某些要求。

    Jun, 2023

  • 人工智能治理的多层框架

    为了实现人工智能的潜在益处并减轻潜在风险，有必要制定一个符合伦理和基本人类价值的治理框架。本文提出了一个多级治理方法，涉及政府、企业和公民三个相互依赖的利益相关者群体，通过信任的维度（如能力、诚信和善意）来研究它们之间的相互关系。通过将治理水平与人工智能的信任维度相结合，提供了可用于进一步增强用户体验和指导与人工智能相关的公共政策的实用见解。

    Jul, 2023

  • AI 采购检查清单：在 AI 治理时代重新审视实施

    公共部门使用人工智能的情况在过去十年中悄然上升，但直到最近，对其进行规范的努力才进入文化潮流。本文通过研究巴西、新加坡和加拿大的官员，总结了监管政府人工智能使用的经验教训，提出了改进途径，着重讨论了技术专长、风险框架和透明度三个关键问题。

    Apr, 2024

  • 风险导向的人工智能监管的风险：认真对待责任

    欧盟人工智能法案是一项基于风险的前瞻性监管方法，旨在预防某些有害结果，并提倡对数据质量和人工监督进行批判性检查；我们建议将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。

    Nov, 2023

  • 解决问题，收获利益 ——AI 监管争议的系统回顾

    本文系统综述了国际上共 73 篇针对人工智能 (AI) 监管的学术论文，重点关注社会风险、监管责任和可能的政策框架，包括基于风险和基于原则的方法。研究发现 AI 领域的复杂性，以及其尚未成熟和缺乏明确性。通过与欧洲 AI 监管建议的比较，本文展示了该监管的具体方法、优点和缺点，有助于更好的理解 AI 和监管之间的关系及其中的规范决策。

    Sep, 2022

  • AI 治理与问责：对 Anthropic 的 Claude 的分析

    研究了 AI 治理的重要性以及 Anthropic 的 Claude 模型的潜在威胁和缓解策略，并强调透明度、严格的基准测试和全面的数据处理过程在确保 AI 系统负责任发展和部署方面的重要性。同时讨论了 AI 治理的社会影响和 AI 问责所涉及的伦理考虑。

    May, 2024