以人为中心的多模态机器学习：人工智能招聘的最新进展及实验平台

Feb, 2023

以人为中心的多模态机器学习：人工智能招聘的最新进展及实验平台

Human-Centric Multimodal Machine Learning: Recent Advances and Testbed on AI-based Recruitment

Alejandro Peña, Ignacio Serna, Aythami Morales, Julian Fierrez, Alfonso Ortega...

TL;DR本文提出了基于人性化的 AI 机器学习需满足四个主要要求：效用和社会效益，隐私和数据所有权，透明度和问责制以及人工智能决策过程公平性。通过使用自然合成个人资料，该研究展示了当前基于多种信息源的模式的算法是如何受到敏感因素和内在偏见的影响，以及这将如何导致决策失公平性。同时，论文介绍了最近的技术和常用数据库，以消除深度学习结构中的偏见和敏感信息。

Abstract

The presence of decision-making algorithms in society is rapidly increasing nowadays, while concerns about their transparency and the possibility of these algorithms becoming new sources of discrimination are arising. There is a certain consensus about the need to develop AI applicatio

human-centric machine learning transparency accountability fairness automated recruitment

发现论文，激发创造

采用以人为本的 AI 方法实现公平公正可解释 AI

本文探讨了机器学习中公平性、可解释性、人本主义、社会偏差等问题，并提出了一种以人为本的人工智能方法，以增强分类系统和单词嵌入的可解释性和公平性，通过 D-BIAS 等可视化工具识别和缓解社会偏见。

Jun, 2023

多模态情感检测算法的偏差与公正

研究发现多模态情感识别系统存在系统性偏见，其中文本在所有模态中的偏见最小且在大多数情况下表现最好，提出多模态方法对于实现偏差和公正性并提高模型性能的价值存在疑问。

May, 2022

公平且无偏的算法决策制定：现状与未来挑战

机器学习算法应用于如信贷贷款或刑法司法等关乎人类生活方面的情境，其所基于的数据若含有人类偏见决策，则会产生人类偏见决策，拥有公平观念的机器学习是一种解决方案，但是如何实现公平面临着 “多维面” 等难题，要想在不同领域实现公平、公正，算法必须做到数据和开发者审查的透明化，在此基础上不断进行公平审计。

Jan, 2019

以人為本的人工智能和機器學習

该研究论文提出了人类中心的人工智能的理念，这需要从社会文化视角设计人工智能算法，并包括帮助人类理解算法、公平公正性、解释性和透明度等方面的问题。

Jan, 2019

关于人工智能和人类协同招聘团队表现和偏见的研究

探讨了使用 AI 辅助决策时，人工智能的预测性能与偏差如何对人类决策产生影响的复杂动态，并通过大规模用户研究发现，高性能的模型显著提高了人类在混合环境中的表现，但有些模型削弱了混合偏见，有些则加重了混合偏见。这些研究结果表明，预先评估这些复杂动态对于部署人工智能具有明确的必要性。

Feb, 2022

高等教育决策中算法的人本评估

本文对高等教育中决策制定算法进行了系统性的综述，发现这些算法趋向于深度学习和对学生的个人数据和受保护属性的使用，但当前算法的发展普遍缺乏以人为中心的理论，参与式或推测性设计，并探讨了这些趋势所带来的挑战，主张采用以人为中心的方法。

Feb, 2023

多模态人工智能中的公平性与偏见：一项调研

人工智能系统中解决公平性和偏差的重要性不可低估。本文填补了大型多模态模型在公平性和偏差研究方面相对于大型语言模型的缺口，提供了 50 个数据集和模型的示例以及影响它们的挑战；我们除了文献中已知的内在偏差和外在偏差两种方式外，还确定了一种新的偏差量化方法（preuse）；我们批判性地讨论了研究人员面对这些挑战时采取的各种方式。我们的方法使用了两个稍有不同的 Google Scholar 搜索词，结果显示出 “大型多模态模型中公平性和偏差” 的搜索词的结果为 33,400 个链接，“大型语言模型中公平性和偏差” 的搜索词的结果为 538,000 个链接。我们相信这项工作有助于填补此领域的研究空白，并向研究人员和其他相关者提供处理多模态人工智能中公平性和偏差问题的见解。

Jun, 2024

情感计算中偏见和公平性的心理测量与计算视角整合：自动视频面试的案例研究

本研究基于心理测量学的原则，对机器学习应用于情感计算的偏差和公平性进行了论述，讨论了测试公平性和偏置的各种方法和指标，并提供了自动化个性化和招聘推理的案例研究。

May, 2023

自然语言处理中的人类辅助公正分类

本研究提出了使用无监督风格转移和 GPT-3 的零 - shot 技术发现具有表达性和直观性的个体公平规范的新方法，以解决文本分类器中公平性问题。我们使用众包研究验证了所生成的具有人类直觉的公平排除敏感属性的语句对，并展示了有限数量的人类反馈如何帮助训练一种相似度规范来训练下游的公平感知模型。

Dec, 2022

迈向道德多模系统

本研究关注于采用多模态人工智能实现诸如完成句子或回答问题等任务，探讨其伦理评估的挑战，并通过互动式人类反馈创造一个多模态伦理数据库，然后利用该数据库构建算法对模型的道德性进行自动评估，包括 RoBERTa 和多层感知器分类器等。

Apr, 2023