gender biases | BriefGPT - AI 论文速递

关键词gender biases

搜索结果 - 30

大型语言模型中的包容性：科学摘要中的个性特征和性别偏见
评估三种主要的大型语言模型（Claude 3 Opus、Mistral AI Large 和 Gemini 1.5 Flash）在科学摘要文本生成任务中的表现，发现尽管这些模型的生成文本通常与人类创作的内容非常相似，但在风格上存在显著的性别
PDF9 days ago
GenderAlign：用于减弱大型语言模型中性别偏差的对齐数据集
通过开发名为 GenderAlign 的数据集，本研究旨在减少大型语言模型中多个维度的性别偏见，并将性别偏见分类为 4 个主要类别。实验证明 GenderAlign 在减轻大型语言模型的性别偏见方面具有显著效果。
PDF16 days ago
大型语言模型评估：STEM 教育与性别刻板印象
通过开放式、用户真实案例实验设计和定量分析，本文调查了 LLMs 中的性别偏见与教育选择之间的关系，在四种不同的文化、语言和教育系统（英语 / 美国 / 英国，丹麦 / 丹麦，加泰罗尼亚 / 西班牙，印地语 / 印度）的背景下调查了性别偏见
PDF22 days ago
基于 Transformer 的 ASR 表示中性别的编码
使用线性消除的方法，本研究探讨了两个基于 transformer 的 ASR 模型 ——Wav2Vec2 和 HuBERT 中性别信息的编码和利用，并证明了从 ASR 模型的每一层中移除性别信息的可行性。此外，分析表明最终层中的第一帧和最后
PDF22 days ago
法庭裁决中的性别偏见检测：巴西案例研究
该研究提出了一个实验框架，用于自动检测巴西葡萄牙语法院判决中的性别偏见，并描述了这项技术的关键特征，以支持研究和评估法院活动。
PDFa month ago
逆转 CLIP 模型带给我们什么启示？
我们使用反演方法研究了 CLIP 模型，发现其反演结果生成的图像与指定的目标提示存在语义对齐。我们利用这些反演图像深入了解了 CLIP 模型的各个方面，如其概念融合能力和性别偏见的包含。我们特别观察到模型反演过程中出现了不安全的图像，即使对
PDF4 months ago
男性 CEO 和女性助理：通过成对定型测试探索文本到图像模型中的性别偏见
最近所提出的大规模图文生成模型（如 DALLE-3）在新应用中表现出很大的潜力，但也面临着前所未有的公平性挑战。此研究通过提出一种新颖的配对刻板印象测试（PST）偏见评估框架来研究这些 T2I 模型中性别偏见的潜在因素。通过 PST，我们从
PDF5 months ago
ACLUnMASKed: 通过语言学知识的职业市场提示量化遮蔽语言模型中的性别偏见
该研究通过评估六个主要的语言模型（BERT，RoBERTa，DistilBERT，BERT-multilingual，XLM-RoBERTa 和 DistilBERT-multilingual）并采用包含鼓励模型生成英语主题代词和要求模型返
PDF5 months ago
人类对话代理对话中的性别偏见探究
研究通过行为和交流的角度，探讨了人机互动中性别偏见的影响，特别关注用户与对话代理的互动中的感知和语言风格，以及对话代理的性别设计如何加强和延伸性别偏见，并就对话代理的性别分配的适宜性和促进设计中性别平等提出伦理设计建议。
PDF6 months ago
您是在与 ['xem'] 或者 ['x', 'em'] 交谈吗？关于标记化和处理 LLM 中的性别错误的研究
通过研究语料数据稀缺对子词分词及大型语言模型中单词表示的影响，以及 Byte-Pair Encoding (BPE) 分词器在缺少特定词汇时与新代词性别错误相关性，提出了保持词语功能结构的新方法 PTP 来改善大型语言模型中的新代词一致性，
PDF7 months ago
通用短语去偏器：在多令牌级别上去偏遮蔽语言模型
提出了一种自动的多令牌去偏见流程，称为 “General Phrase Debiaser”，它可以减轻被遮蔽语言模型中的短语级偏见。所提方法在标准数据集和评估指标上取得了最新成果，显著降低了职业和多个领域中的性别偏见，并适用于具有不同参数大
PDF7 months ago
王子是否会得到真爱的吻？关于童话文本性别扰动的模型敏感性
本文旨在通过评估语言模型对性别扭曲的鲁棒性来帮助缓解传统童话故事中的性别偏见。研究发现，模型对性别的敏感性存在显著性能下降，但在反事实训练数据集上进行微调后，对后期引入的反性别定型文本的敏感度降低。
PDF9 months ago
KDDChatGPT 中的性别偏见有多普遍？-- 探索德语和英语 ChatGPT 的回答
分析 ChatGPT 对有性别偏见和提示分析的系统回应，检查其可用性和限制。
PDF10 months ago
性别差异管道：一种针对 55 种语言中性别特征的性别感知多语言管道
性别偏见在语言生成系统中很难缓解，其中一个潜在原因是训练和评估数据中的性别代表性差异。尽管近年来在记录这个问题和尝试缓解方面取得了一些进展，但我们仍然缺乏共享的方法论和工具来报告大规模数据集中的性别代表性。本文描述了 Gender-GAP
PDF10 months ago
ACL评估和减轻多语言环境中的性别偏见
这项研究探讨在多语言环境中评估和减少性别偏见在语言模型中的挑战，并通过 DisCo 扩展到不同的印度语言来创建了一个评估预训练屏蔽语言模型中性别偏见的基准，同时评估了各种方法对 SOTA 大规模多语言模型减轻此类偏见的有效性。
PDFa year ago
自动评估指标中的性别偏见：以图像字幕为例的案例研究
本论文通过系统的调研，研究发现了预训练模型存在性别偏见的问题，探讨了预训练模型在图像字幕生成任务中的公平性影响，并提出了一种针对这种问题的解决方案：结合 n-gram 匹配和预训练模型评估度量，以减少性别偏见的影响。
PDFa year ago
ACL超越英语：针对四种语言情感分析偏差的反事实测试
通过构建评估语料库，我们针对四种语言进行了性别、种族和移民偏见的对比评估，揭示了预训练模型对系统所引入的偏见，并提出更针对性的缓解策略。
PDFa year ago
笑脸女性下降：审计图像生成 AI 中的代表性和呈现性性别偏见
本研究分析了 15,300 个 DALL-E 2 图像，发现其在男性主导领域中低估女性，而在女性主导领域中高估女性，同时揭示了这些图像中的性别偏见，需要采取女性主义干预手段以防止这些带有偏见的 AI 生成图片反馈到媒体生态环境中。
PDFa year ago
Inseq: 序列生成模型的可解释性工具包
该研究介绍了 Inseq，一种 Python 库，以民主化访问序列生成模型的可解释性分析，展示了它在减少机器翻译如何存在性别偏见和定位 GPT-2 中的事实知识方面的潜力。
PDFa year ago
掩码语言模型预训练阶段性别偏见出现意外波动
掩蔽语言模型在预训练时会出现性别偏见。我们的研究表明，这些偏见不仅与模型架构和语料库有关，而且还与个别模板的基本层面存在严重波动，这一假设无效。此外，这些波动并不与预测的代词的确定性或预训练语料库中的职业频率相关。我们公开了代码和数据，以造
PDF2 years ago