Nov, 2023

包容性画像：有关种族的人机交互技术

PDF
TL;DR通过社会理论中有关种族的连接，本文提出了一种名为包容人像（Inclusive Portraits）的新方法，改善了人工参与（HITL）系统在面部验证中的性能，并突出了在设计 HITL 系统时考虑个体工作者特点的重要性，而不是将工作者视为同质群体。此研究对于开发更具包容性和公平性的 AI 增强服务具有重大的设计意义。
aifacial verificationhuman-in-the-loopraceinclusive
发现论文，激发创造
  • 人机交互的机器创造力

    该研究探讨了在艺术创作中将人类专业知识与 AI 模型相结合，以实现更具表现力、细腻和多模态的生成作品的方法，并提出 Human-in-the-Loop 的设计，以增加人类与 AI 之间的互动，从而帮助未来的 AI 系统更好地理解我们自己的创造和情感过程。

    Oct, 2021

  • 提高人机协作系统的效率：将人工智能加入人类专家

    人工智能和机器学习在信息系统中发挥了重要作用，然而机器学习模型不完美并且可能产生错误分类。因此，本研究提出了一种混合系统，利用人工专家对难以分类的实例进行审核，并创造了人工专家来学习对之前由人工专家审核过的未知类别数据实例进行分类。实验证明，这种方法在图像分类的几个基准测试中优于传统的人机合作系统。

    Jul, 2023

  • T-HITL 有效解决图像生成中的问题关联并保持整体视觉质量

    生成型 AI 图像模型可能无意中生成有问题的人物表现，并可能加剧和加速现实世界中的歧视和其他危害；本文针对生成型 AI 模型中人口群体和语义概念之间的有问题关联进行研究，提出了一种新的方法论 T-HITL，既解决了这些关联问题，又保持了图像模型的视觉质量。

    Feb, 2024

  • 克服基于敌对攻击的人在环应用

    人类分析对深度神经网络的鲁棒性产生积极影响，尚未在对抗机器学习文献中得到很好的探究。人类视觉注意力模型可能会提高人 - 机图像分析系统的解释性和鲁棒性。虽然存在挑战，但需要进一步研究，以便选择适宜的可视化解释，以便图像分析员评估所给数据模型。

    Jun, 2023

  • 将人类纳入自然语言处理环节：一项调查

    介绍了人与自然语言处理模型 (NLP) 的交互式 (HITL) 的短暂但激动人心的历史，总结了近期以任务、目标、人机交互和反馈学习方法为重点的各种 HITL NLP 框架，并讨论了将来在 NLP 开发中整合人类反馈的方向。

    Mar, 2021

  • HEIDL: 用深度学习和人工参与学习语言表达

    本文介绍了一种名为 HEIDL 的新型人机交互机器学习系统，可以通过高水平的、可解释的语言表达式与人交互，从而提高人类在模型预测、理解以及更新方面的参与度，并且可以使得机器学习模型能够更好地应用于实际场景中。

    Jul, 2019

  • 在交互式人机协同 AI 公平性中促进最终用户的参与

    我们探索了一种人机交互界面的设计，使得普通用户可以识别潜在的公平问题并在贷款决策的背景下解决它们，为评判和解决人工智能的公平性做出贡献。

    Apr, 2022

  • Society-in-the-Loop：算法社会契约的编程

    本研究提出了一个对人工智能和算法系统进行监管的概念性框架，其中结合人机交互学习与各利益相关者的价值观协商及监控来保证算法社会契约的编程、调试、运行和维护。

    Jul, 2017

  • 人机协同的人员再识别

    提出一种基于人机交互 (Human Verification Incremental Learning) 的人体再识别模型，将人类反馈信息累计到模型中，从而实现模型的标记无关性和可伸缩性，同时使用正则化的度量集成学习 (Regularised Metric Ensemble Learning) 模型，当没有人类反馈时将一系列增量学习的 HVIL 模型结合成单个集合模型，以处理大型库问题。

    Dec, 2016

  • 跨种族人脸验证的人机比较：性能上限下的种族偏见？

    研究面部识别技术在跨种族验证方面的种族偏差问题以及基于挑战性测试，发现 2019 年的 ArcFace 面部识别算法和两种最先进的系统比人类更准确地识别黑白人脸，但需要进一步探讨这一结果在野外环境中应用的普遍性。

    May, 2023