stereotypes | BriefGPT - AI 论文速递

关键词stereotypes

搜索结果 - 39

利用以国籍为基础的个人形象剖析国家认知变化
该研究探索了当特定国籍背景赋予语言模型时对不同国家的知觉如何改变，并发现所有 LLM - 国籍组合倾向于偏爱西欧国家，同时国籍背景也影响 LLM 对本地区的关注和正面态度。然而，对于东欧、拉丁美洲和非洲国家，不同国籍背景赋予的知觉较为消极。
PDF14 days ago
MBBQ: 一份为生成式语言模型的跨语言比较刻板印象而设的数据集
研究表明，生成性大型语言模型存在有害的偏见和刻板印象。该论文通过研究不同语言的社会刻板印象，控制文化差异和任务准确性，证实了非英语语言存在更多的偏见，并且观察到跨语言的偏见行为存在显著差异。
PDF23 days ago
文本模型是否存在与性别相关语言无关的偏见？
研究通过建立一个新的框架 UnStereoEval（USE），来调查非刻板化场景下的性别偏见。结果发现，28 个测试模型中所有模型都存在较低的公平性，只有 9%-41% 的非刻板化句子表现出公正行为，这表明偏见不仅仅源自性别相关词的存在，这
PDF2 months ago
打破定型：一个统一框架用于审视推荐系统中的误判、偏见和刻板印象
评估推荐系统的系统性误差、刻板印象和校准问题，并提出了一种统一框架来衡量系统引起的效应，研究发现简单算法生成的推荐结果更符合刻板印象但偏差较小，而较复杂算法产生的推荐则存在更大的偏差，进而影响到非典型用户和少数群体，通过过采样来减少刻板印象
PDF6 months ago
女性美丽，男性领导：机器翻译和语言建模中的性别刻板印象
我们提供了 GEST - 一份用于衡量掩码语言模型和英文到其他语言机器翻译系统中的性别刻板推理的新数据集。GEST 包含了与 9 种斯拉夫语言和英语相容的 16 个关于男性和女性的性别刻板印象的样本 (例如，女性美丽，男性领导）。该刻板印象
PDF7 months ago
关于人和文化的有争议术语在链接开放数据中的使用
通过分析 Linked Open Data 中的争议性术语在文字中的出现频率以及是否有标记的尝试，研究了过时、贬义和滋生刻板印象的术语在描述文字中的频繁出现。发现 LOD 贡献者很少对争议性术语进行标记，研究结果可为解决通过 LOD 传播刻
PDF8 months ago
EMNLP超越谴责仇恨：消除语言中暗含的偏见和刻板印象的策略
通过心理学和哲学文献，我们提供六种基于心理学的策略来挑战令人讨厌的语言中的刻板印象，并发现人类编写的反言中使用更具体的对抗策略，而机器生成的反言使用的策略通常不太具体且不太令人信服。
PDF8 months ago
EMNLP人” 等于白皮肤、西方男性和有色女性的性别体现：稳定扩散中的刻板印象
研究稳定扩散生成器中融入的刻板印象：我们研究了稳定扩散在缺少性别和国籍 / 大陆身份信息时分配给 “一个人” 或 “一个来自亚洲的人” 的性别和国籍 / 大陆身份。通过使用视觉 - 语言模型 CLIP 的余弦相似度来比较通过基于 CLIP
PDF8 months ago
EMNLP代词的故事：可解释性指导对公正指令调整机器翻译中的性别偏见缓解
探讨了细调指令模型在机器翻译中存在性别偏见的问题，并提出了基于少样本学习的易于实施且有效的偏见缓解解决方案，以实现更公平的翻译。
PDF9 months ago
生成 AI 可能更愿意基于大陆级别的刻板地理印象呈现城市的国家级特征
中国基于生成式人工智能平台文心颐格的实验表明，该平台生成的城市街景图像在经济发展水平和现代化方面可能存在大陆级别的刻板印象，不能充分代表不同国家间多样化的城市风景。将这些生成的图像用于地理教育或宣传活动可能无意中加强人们对个别国家的刻板观点
PDF9 months ago
FairBench: 大型语言模型中检测刻板印象和偏见的四阶段自动框架
本研究介绍了一种四阶段的框架来直接评估大型语言模型（LLMs）生成的内容中的刻板印象和偏见，包括直接问询测试、序列或改编故事测试、隐含联想测试和未知情境测试。此外，本文提出了多维度评估指标和可解释的零样本提示用于自动评估。使用教育领域作为案
PDF10 months ago
费城询问者报对物质使用覆盖的演变
探讨关于物质滥用的话语和报道如何随时间变化，分析 157,476 篇文章，发现大麻和麻醉品是最常被讨论的药物类别，幻觉类药物被描绘得更积极，而麻醉品则被描绘得最消极。我们的研究旨在强调媒体传播中对物质滥用和成瘾的准确和包容性描绘的必要性。
PDFa year ago
ACL标记人设：使用自然语言提示来测量语言模型中的刻板印象
本文提出了基于提示的标记人物法（Marked Personas），其使用无词库或数据标注的方法来测量具有交叉社会群体的 LLMs 中的刻板印象，结果显示 GPT-3.5 和 GPT-4 生成的叙述比使用相同提示的人类撰写的叙述包含更多种族刻
PDFa year ago
运动如女孩！语言和视觉中的体育性别偏见
该研究分析了两个语言和视觉数据集的性别偏见，发现数据集对女性存在偏差，而且人类命名体育运动参与者时也存在性别偏见，这导致了数据集和模型对女性的不当代表。
PDFa year ago
利用实体为中心的数据测量刻板印象
本文提出并评估三种新的基于实体的学习方法，利用多个短语应用于同一人，从而放大所学关联的人本性质，以预测人们如何将身份应用于自己和他人，并量化社会上突出的维度上的刻板印象。实验证明这些模型在刻板印象测量方面胜过现有方法，并展示了这些模型在未来
PDFa year ago
图像搜索中的公平性：职业定型在图片检索中的研究及其去偏见化方法
本研究聚焦于关键词图像搜索领域中的偏见和公平性问题，评估并减轻搜索结果中的性别职业刻板印象。通过使用开源和专有的 API 来确定图像的性别，我们提出了一种考虑到与指定关键词的相关性和公平性的公平感知排序算法，并在实验中证明其显著地提高了公平
PDFa year ago
ACL逻辑抗偏见：文字推断缓解刻板句子推理
本文中，我们描述了几种针对不同社区的刻板印象，这些社区存在于受欢迎的句子表示模型（包括预训练的下个句子预测和对比句子表示模型）中。通过比较基于文本相似性的强预训练模型与学习语言逻辑的文本蕴涵模型，我们得出结论：与显式去偏见流程相比，使用文本
PDFa year ago
在多模态语言模型评估中控制刻板印象
我们提出了一种方法和设计了两个基准集，以衡量语言和视觉语言模型在有或没有刻板印象的情况下使用视觉信号的程度。我们的结果表明，多模型之间存在显着差异：最近基于 Transformer 的 FLAVA 似乎比早期基于 CNN 的模型（如 Vis
PDFa year ago
语言模型中对陈规的理解：朝着鲁棒度量和零 - shot 去偏见的方向
本文研究了预训练语言模型的生成文本中存在的人类偏见和其对不同人口群体的影响，针对现有的评估技术和基准的准确性问题，提出了新的评估框架以更稳健地测量和量化语言模型所表现出的偏见。并使用该框架调查了 GPT-3 的职业性别偏见，并提出了一些缓解
PDF2 years ago
易于访问的文本到图像生成在大规模上放大人口统计的定型观念
研究表明，现在机器学习模型能够将用户写的文本描述转换成逼真的图像，并且这些模型现在可以在线使用，每天可生成数百万张图像。然而，我们发现这些模型放大了危险和复杂的刻板印象，并且这些放大的刻板印象难以预测，用户或模型所有者也难以减轻其影响。这些
PDF2 years ago