social stereotypes | BriefGPT

关键词social stereotypes

搜索结果 - 6

SeeGULL 多语言：一个地理文化背景下定位的刻板印象数据集
使用 LLM 生成多种语言模型的方法，结合文化验证，建立全球规模的多语言社会刻板印象数据集，包含超过 20 种语言中的 25,000 个刻板印象，并且通过人工注释来显示其在模型评估中的差距。
PDF4 months ago
新工作，新性别？衡量图像生成模型中的社会偏见
该研究提出了 BiasPainter，这是一个新颖的变态测试框架，可以准确、自动、全面地触发图像生成模型中的社会偏见，并对其公平性进行评估。实验证明，BiasPainter 成功触发了 100% 的测试案例中的社会偏见。
PDF6 months ago
EMNLP通过社会偏见推理来对抗本质主义
研究如何打破社会刻板印象中的本质主义信仰，通过人类研究探讨不同类型的反驳策略的有效性，并发现扩大刻板印象范围的说法最受欢迎。
PDFa year ago
ACL道德建议接受者：语言模型是否理解自然语言干预？
本研究探讨将自然语言用于干预模型行为以及改变其预测结果的可能性，特别是在社会刻板印象的语境下，研究了自然语言干预对阅读理解系统的有效性。实验发现，即使是目前功能强大的神经语言模型，在伦理干预方面表现依然极差，以致于即便干预语句十分简单，模型
PDF3 years ago
ACL基于词向量的性别偏见评估的鲁棒性和可靠性：碱基对的作用
研究表明单词嵌入存在性别偏见，过去常常以男女性词对来衡量性别偏见，但这种方式存在局限性，因为它们无法识别现实世界中的其他类型偏见，并且不能很好地指示偏见。
PDF4 years ago
ACL测量上下文化词表示中的偏见
本研究基于模板方法提出了一种量化 BERT 中偏见的方法，并且通过性别代词解析的案例研究证明了该方法在捕捉社会偏见方面的优越性，同时也指出了该方法的普遍适用性，包括在多类别设置中使用的种族和宗教偏见。
PDF5 years ago