Apr, 2023

引入建构理论作为包容性人工智能模型的标准方法论

PDF
TL;DR研究探讨了社会心理学中的构造理论如何应用于人工智能领域，针对面部识别算法中的性别和肤色偏见提出了基于表型标记的解决方案，并在 Google Cloud Vision API 和 Microsoft Cognitive Services API 上进行了测试。研究结果表明，构建包容性，验证的构造成为 AI ML 模型的行业标准是必要的。
construct theoryai biasfacial recognitionphenotypic labelinginclusivity
发现论文，激发创造
  • 性别与公正机器学习有何关系？

    本文通过探索 “原因模型” 的形式假设，阐述性别仅仅是一个性状的集合是虚假的，这对于如何使用模型检测歧视具有重要意义，并且构成一个不同类型的对待歧视的道德问题。

    Jun, 2020

  • 性别倾斜：通过属性操作实现计算机视觉模型的反事实公平性

    本文提出了一种使用编码器 - 解码器网络开发的人脸图像合成方法，以测量商业计算机视觉分类器的反事实公平性，并报告了在线搜索服务中与职业相关的关键字中出现的偏向性，用以解释模型偏差的来源。

    May, 2020

  • 人工智能中的现实构建：一篇综述

    本文介绍了一种由 Jean Piaget 启发的 AI 建构主义，描述和调查了 Frank Guerin，并由 Gary Drescher 作为代表性的实现来创建算法和知识结构，以通过感知动作交互使代理能够获得，维护和应用对环境的深入理解。它旨在增加对建构主义 AI 实现的认识，以鼓励机器实现终身学习。

    Feb, 2023

  • 机器学习中的种族分类

    通过在群体公平干预之前采用无监督学习来动态检测隔离模式，机器学习系统可以减轻社会差距，社会分离和分层的根源，而不进一步锚定劣势状态类别。

    Nov, 2018

  • 面孔多样性

    利用深度学习技术和一个由 100 万个带有十个基础面部编码方案的人脸图像组成的数据集，促进对于面部多样性的研究和发展，以提高面部识别系统的公平性和准确性。

    Jan, 2019

  • AI 系统公平性：缓解语言视觉模型中的性别偏见

    本研究尝试减轻语言视觉模型中的性别偏见问题，通过研究现有数据集中性别偏见的影响程度，并提出一种缓解方法。

    May, 2023

  • 测量与公平性

    本文提出以量化社会科学的测量建模作为理解计算机系统公平性的框架，并探讨了由于测量建模中的理论构想和实际操作不匹配而引起的公平性问题，提供了一系列工具来明确和测试构想及其实际操作，并为针对不同背景下对公平的理论性相关性进行了阐述和解决。

    Dec, 2019

  • 算法公平性中批判性种族方法的探索

    本文探讨算法公平框架中如何采纳种族和种族范畴，认为目前的方法未能充分考虑种族的社会构造性质，指出需要理解种族具有的多维性、关注种族不平等的社会过程，并关注最受社会技术系统影响的人的观点。

    Dec, 2019

  • 人类概念结构的行为估计在任务上很稳健，但在大型语言模型中不稳定

    本文探讨使用认知心理学方法估计和比较人类和 GPT-3 的概念表征结构，结果表明语义结构的估计在人类之间保持一致，而在 GPT-3 中则取决于所使用的任务。

    Apr, 2023

  • 了解性别分类算法在不同性别 - 种族群体中的公平性

    针对自动化性别分类系统在不同种族和性别群体中存在的差异性，本文分析了深度学习算法中的架构差异和训练集不平衡等潜在差异性来源，并在两个大规模的公开数据集上进行了实验。实验结果表明，不同算法的分类表现存在一致性，而且黑种女性和黑种族总体的准确率最低，中东男性和拉丁女性的准确率大多数情况下更高。同时提出骨骼结构受基因和环境因素影响的面部形态差异可能是黑种女性表现不佳的原因。

    Sep, 2020