Jan, 2024

识别和改进基于 GAI 的简历筛选中的身份偏见

PDF
TL;DR在解决偏见对边缘化人群（包括残疾人）的负面影响方面，我们通过履历审查研究，发现 GPT-4 在评估增强了与残疾相关的领导奖项、奖学金、专题演讲和会员的简历时存在偏见，并通过针对多样性、公平性与残疾正义原则来训练自定义 GPTs，量化地减少了这种偏见。我们还对 GPT-4 为其有偏决策辩解时所使用的直接和间接有能力主义类型进行了独特的定性分析，并提出了进一步偏见缓解工作的方向。此外，由于这些辩解可能源自包含人类表达的现实世界有偏见陈述的训练数据，我们的分析还建议了解决人类偏见的其他途径。
generative aihiringrecruitingdisabilitybias
发现论文，激发创造
  • 通过残障镜头审视 GPT-3 生成的开放式语言中的偏见

    研究发现最近的语言模型在数字产品中越来越普及，但是人们担心这些模型采用的自然语言会有偏见，影响可用性。为了提高公正性，我们通过一种障碍问卷测量来识别 GPT-3 模型生成的文本是否具有偏见和公平性。

    Jun, 2022

  • 参与生成式 AI 开发中残疾人群体的民主平台

    建议一个平台，以包容残障群体为重点，用于设计和开发生成式人工智能系统，并研究它们在被残疾人群体使用时产生的偏见和错误的因素。

    Sep, 2023

  • ChatGPT 在高等教育中的潜在社会偏见：一项范围审视

    对 ChatGPT 和其他生成人工智能模型（GAI）存在的潜在偏见在高等教育机构（HEIs）中的应用进行了伦理问题的讨论和相关研究的范围审查，结果表明，虽然存在对大型语言模型（LLMs）和 GAI 的潜在偏见的意识，但多数文章只在表面上接触到 “偏见” 问题，很少有人明确指出在什么情况下会发生何种偏见，并且也未对其对高等教育、教职员工或学生可能产生的影响进行讨论。因此，我们呼吁高等教育研究人员和人工智能专家在这个领域进行更多的研究。

    Nov, 2023

  • 深度学习自动简历筛选中的国籍歧视

    本研究对深度学习方法在自动化简历筛选中的运用进行了探讨，发现由于深度学习模型基于历史数据学习概率分布，因此其所学的词向量存在刻板印象，可能会导致偏向或偏见，需要采取偏差缓解方法。

    Jul, 2023

  • 寻找一个英俊的木匠！去偏见化 GPT-3 的招聘广告

    本研究旨在使用 GPT-3 生成无偏见和真实的招聘广告，通过评估生成的广告与真实广告的偏见和真实性，研究了 prompt-engineering 和 fine-tuning 两种解决偏见的方法，结果表明 fine-tuning 在减少偏见和提高真实性方面取得了较好的效果。

    May, 2022

  • 探究 OpenAI GPT3 中的偏见与互联网教育

    本研究探讨了自然语言处理模型中偏见及其避免技术的现有文献，包括为何首先解决偏见问题；此外，文中分析了这些技术在比过去更大的新型模型下的表现。为了实现这些目标，本文作者使用目前可由消费者使用的最大 NLP 模型 GPT3 进行了研究。通过使用 GPT3 开发申请人跟踪系统进行测试，其中主要关注了性别偏见而不是所有或多种类型的偏见。最终，考虑和测试了当前的减轻技术以测试其功能程度。

    Jun, 2023

  • 揭示法学硕士职业领域中的性别偏见：分析与解决社会学意义

    该研究探讨了大型语言模型中的性别偏见问题，特别关注 GPT-2 和 GPT-3.5 等多个语言模型之间的比较，通过对生成的文本进行全面的文献综述和定量分析，发现了性别化词汇关联、语言使用和偏见叙述的问题，并提出了减少性别偏见的算法和数据增强技术。该研究强调了学科间合作的重要性和社会学研究在减少 AI 模型性别偏见中的作用。

    Jul, 2023

  • 残疾视角：发现自动图像生成的偏见

    通过综合实验，研究发现当前普遍的图像生成模型在描绘残障人士时存在明显的偏见，通常将他们描绘为年长、悲伤，并主要使用手动轮椅，因此迫切需要更具包容性的 AI 开发，确保生成的图像中残障人士能够得到多样化和准确的呈现，以解决和减轻 AI 模型中的偏见，促进公平和真实的表现。

    Jun, 2024

  • LLM 响应中的有意偏见

    本研究旨在有意地引入偏见到大型语言模型的响应中，以创建特定的互动媒体角色。我们探索了 Falcon-7b 等开源模型与 Open AI 的 GPT-4 模型之间的差异，并对两个系统的响应进行了一些量化比较。我们发现，GPT-4 的专家混合模型中的防护措施虽然在确保 AI 的整体对齐方面很有用，但在构建具有各种不寻常观点的角色时却具有负面影响。本研究旨在为未来探索大型语言模型中的有意偏见奠定基础，以便这些实践可以应用于创意领域和新型媒体。

    Nov, 2023

  • 职业咨询中的人工智能：以 ResumAI 为例的实验

    人工智能（AI）的崛起导致了多种整合 AI 的方法，旨在提高任务效率，其中之一便是职业咨询。本文通过快速文献回顾，探讨了 AI 在职业咨询中的伦理考虑和限制，并创建了一个名为 ResumAI 的网站服务，以测试和评估 AI 职业咨询师的功能性。研究结果将有助于了解聊天 AI 程序和 ResumAI 评论员的程序和网站，对职业咨询领域、AI 发展和伦理实践的影响也将进行讨论。

    Aug, 2023