Jun, 2024
生成区别: 生成人工智能出现偏见时会发生什么以及可以采取的措施
Generative Discrimination: What Happens When Generative AI Exhibits
Bias, and What Can Be Done About It
TL;DR人工智能的生成技术在各个领域得到广泛应用，然而它们也可能加剧歧视问题。本章研究了生成人工智能与非歧视法律的重叠，指出了存在的问题并提出了改进措施。研究重点关注两种主要的歧视性输出：侮辱性和辱骂性内容以及受保护群体不足的隐含偏见，尽管在个别案例中可能没有明显的歧视性，但却具有累积的歧视效应。本章将这些问题分为三个法律类别：歧视性内容、骚扰和存在困难的情况，如不平衡的内容、有害的刻板印象或错误分类。文章主张应当使生成人工智能的提供者和应用者对歧视性输出负责，并强调传统法律框架在解决生成人工智能特定问题方面的不足。本章建议更新欧盟法律，包括AI法案，以减少训练和输入数据中的偏见，强制测试和审计，并随着技术进步不断完善立法以执行偏见减少和包容性的标准。