Mar, 2022

人工智能法》下的法庭取证图像分析中合规性挑战

PDF
TL;DR本研究回顾并总结了机器学习在法证图像分析中的高风险性质，概述了高风险人工智能系统的强制要求，并讨论了这些要求在两个法证应用（车牌识别和深度伪造检测）中的实际应用。目的是提高人们对即将发布的法律要求的认识，并指出未来研究的方向。
forensic image analysismachine learninglegal compliancehigh-risk ai systemsmandatory requirements
发现论文，激发创造
  • 遵规卡：用于自动化 AI 监管遵守的计算工具

    通过引入一种高度自动化的系统，我们可以捕获与人工智能系统和模型的合规性相关的数据，并跨越这些数据进行分析，从而加强和加速 AI 法规的合规评估。

    Jun, 2024

  • 遵守欧盟 AI 法案

    该研究论文通过对 EU AI Act 的分类，开发了一个问卷，提供定量数据和洞见。数据分析显示了不同合规性类别下组织所面临的各种挑战，并研究了组织特征（如规模和行业）对合规性的影响。此外，论文还分享了被调查对象对 AI Act 内容和应用的常见问题的定性数据。论文认为在遵循 AIA 方面仍有改进空间，并提及了一个相关项目，试图帮助这些组织解决问题。

    Jul, 2023

  • 现代数字取证与事件响应中人工智能和机器学习角色的综合分析

    人工智能和机器学习技术在数字取证和事件响应中的应用以及其所涉及的研究领域和主题进行了彻底的分析，揭示了其在数据收集与恢复、网络犯罪时间线重建、大数据分析、模式识别和确保物证链的安全、并针对黑客事件进行响应策略方面的关键作用和局限性。

    Sep, 2023

  • 没有法规就没有信任！

    机器学习在工业系统中的应用以及其安全性和合规性对于决策辅助等关键功能具有重要意义，然而，当前机器学习组件的低形式化程度和不确定性使得使用传统的关键系统工程方法难以验证和验证其安全性，因此需要制定适用于人工智能的规范和监管标准，提出可信的人工智能认证方法和工具。

    Sep, 2023

  • 遵循欧盟 AI 法案：针对安全关键产品的合规方法论

    该文章提出了一种方法，通过利用产品质量模型来解释欧盟 AI 法案对高风险 AI 系统的要求。该方法将法案要求与相关的质量属性进行映射，并提出了一种合同为基础的方法来从利益相关者层面推导技术要求，以确保 AI 系统既符合确定的质量标准，也符合法案对高风险 AI 系统的监管要求。在一个汽车供应链示例中，展示了该方法的适用性，其中多个利益相关者相互作用以实现欧盟 AI 法案的合规性。

    Mar, 2024

  • 面向移动应用中基于人工智能系统的审计要求

    研究通过提出 50 个技术要求或最佳实践，扩展现有标准以考虑基于深度神经网络的系统的具体需求。研究还证明了这些要求的适用性、有用性和意义，在特定的 DNN 交通标志识别系统的审计中得到了验证。

    Feb, 2023

  • 风险导向的人工智能监管的风险：认真对待责任

    欧盟人工智能法案是一项基于风险的前瞻性监管方法，旨在预防某些有害结果，并提倡对数据质量和人工监督进行批判性检查；我们建议将责任视为主要监管机制，并区分潜在危害的内生和外生因素，通过合理分配开发者和使用者之间的责任来减轻风险。

    Nov, 2023

  • 人工智能时代的责任制度：基于实际案例的举证分析

    阐述了人工智能和机器学习技术在改善社会的同时，由于潜在的风险和固有的特征会导致安全和基本权利受到威胁，并提出需要改进现有的责任制度以保护受害者的利益的观点。

    Nov, 2022

  • AI 法案估计影响的数量研究

    对欧盟 AI 规则的初稿进行了分类，并与计算机科学和法律专家一起将其按照 AI 法案进行分类，表明需要更加明确具体的规定，并且只有大约 30％的 AI 系统被 AI 法案约束，其余分类为低风险。

    Mar, 2023

  • AI Cards：面向机器可读 AI 和风险文档的应用框架，受欧盟 AI 法案启发

    该研究论文通过对 EU AI 法案规定的技术文档的深入分析，以 AI 风险管理为重点，提出了 AI 卡作为一种新颖的综合框架，通过人机可读的格式来表示 AI 系统的预期用途，以实现透明性、可理解性和互操作性，为法律合规性和一致性评估任务提供了自动化工具的开发能力。

    Jun, 2024