Feb, 2024

欧洲对以人为中心技术的承诺：HCI 在欧盟 AI 法案成功中的关键作用

PDF
TL;DR人工智能的发展将深刻改变未来。欧盟已经颁布了《人工智能法案》，该法案以透明度、解释能力和人类理解和控制人工智能系统为重点，旨在保护民主和人道主义价值观，并推动人类中心的创新研究议程。人工智能系统评估方法的缺乏可能导致实施混乱，加重困惑。因此，人类与人工智能的相互作用的研究将对法规合规和人工智能进步至关重要，以确保人工智能的发展与人类价值和需求相一致，促进创新、负责任的技术发展，使其成为我们社会不可或缺的一部分。
ai evolutioneuropean unionai acthuman-centered ai systemshuman-ai interaction
发现论文，激发创造
  • 欧洲的人工智能监管：从 AI 法案到未来监管挑战

    欧盟 AI 监管、混合监管策略、AI 法案等关键词所涵盖的论文讨论了 AI 监管的复杂性以及现行 AI 法案的不足，并呼吁建立协议以规范高性能开源 AI 系统的访问，以进一步完善 AI 技术的有效治理。

    Oct, 2023

  • 遵守欧盟 AI 法案

    该研究论文通过对 EU AI Act 的分类，开发了一个问卷，提供定量数据和洞见。数据分析显示了不同合规性类别下组织所面临的各种挑战，并研究了组织特征（如规模和行业）对合规性的影响。此外，论文还分享了被调查对象对 AI Act 内容和应用的常见问题的定性数据。论文认为在遵循 AIA 方面仍有改进空间，并提及了一个相关项目，试图帮助这些组织解决问题。

    Jul, 2023

  • 人权、民主和法治保障框架 —— 人工智能系统的提案

    该研究构建了一个人权、民主和法治保障框架 (HUDERAF)，以支持一项基于欧洲理事会人权、民主和法治标准的人工智能法律框架，该框架包括上下文风险分析、透明的风险管理和技术和社会技术安全保障机制，并且可以提高 AI 创新实践的公共问责、透明度和民主治理水平。

    Feb, 2022

  • AI 法案估计影响的数量研究

    对欧盟 AI 规则的初稿进行了分类，并与计算机科学和法律专家一起将其按照 AI 法案进行分类，表明需要更加明确具体的规定，并且只有大约 30％的 AI 系统被 AI 法案约束，其余分类为低风险。

    Mar, 2023

  • 欧洲人工智能责任指令 —— 对一种犹豫不决的方法的批评和未来的教训

    该研究论文探讨了欧洲委员会关于 AI 责任的两个提案及其对欧盟 AI 相关法规的影响，提出了继续完善 AI 责任制和规范 AI 开发部署的措施，并建议为此制定详细框架和规定，以促进公平、可解释和可持续的 AI 的发展。

    Nov, 2022

  • 在欧洲人工智能标准化中考虑基本权利：荒唐还是战略联盟？

    欧洲背景下，EU AI 法案提案和 AI 安全可信性标准化申请草案将标准化与基本权利联系起来，但没有提供明确规范关于 AI 标准与基本权利之间的关系、含义或意义。本章旨在澄清这一关键的监管空白，探讨采用基于未来 AI 法案的 AI 标准是否应考虑基本权利，回答是肯定的。某些 AI 系统所带来的高风险特别涉及对基本权利的侵犯，因此减轻此类风险涉及到基本权利的考虑，而未来的标准化应该反映这一点。同时，还需要解决对欧洲标准化进程的有效批评。最后，讨论如何在正在进行的欧洲 AI 系统标准化中实际整合基本权利的考虑。

    Jan, 2024

  • 风险导向的人工智能监管的风险：认真对待责任

    欧盟人工智能法案是一项基于风险的前瞻性监管方法，旨在预防某些有害结果，并提倡对数据质量和人工监督进行批判性检查；我们建议将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。

    Nov, 2023

  • 协调可解释 AI 和法律：欧洲视角

    本研究探讨了欧盟提出的《人工智能法案》中涉及的 AI 监管，特别关注了卫生保健等高风险领域中使用的 AI 系统的透明性和可解释性的要求。研究发现，XAI 解决方案与 AI 法案的要求存在显著差异，因此认为律师和 XAI 研究人员之间的合作至关重要。该研究讨论了 XAI 的法律关联性和 AI 法案和 GDPR 中的透明性和可解释性要求等四个主要问题。最终旨在促进学科间的研究，支持制定可持续监管，促进负责任的创新。

    Feb, 2023

  • 遵循欧盟 AI 法案：针对安全关键产品的合规方法论

    该文章提出了一种方法，通过利用产品质量模型来解释欧盟 AI 法案对高风险 AI 系统的要求。该方法将法案要求与相关的质量属性进行映射，并提出了一种合同为基础的方法来从利益相关者层面推导技术要求，以确保 AI 系统既符合确定的质量标准，也符合法案对高风险 AI 系统的监管要求。在一个汽车供应链示例中，展示了该方法的适用性，其中多个利益相关者相互作用以实现欧盟 AI 法案的合规性。

    Mar, 2024

  • 负责人工智能实施：以人类为中心的框架加速创新过程

    本文提出了一种在人性化设计和敏捷开发中建立和维护信任的理论框架，它强调了商业技术的协同创新过程。框架的目的是通过让所有利益相关者参与到项目中来，将人工智能技术与人们一起设计、开发和部署，以创新和改进业务。以医院规划助理为例，展示了该框架在实际应用中的效果。

    Sep, 2022