societal biases | BriefGPT - AI 论文速递

关键词societal biases

搜索结果 - 28

ACLRedditBias：对话语言模型偏见评估和去偏见的现实世界资源
本文研究文本表示模型的偏见问题。尤其是，对于会话语言模型中存在的偏见问题，资源和方法有限，并且缺乏综合评估框架。本文提出了 RedditBias，一种多维偏见评测数据集，并开发了使用其进行评估测试的框架，同时测试了使用四种去偏见方法修复模型
PDF3 years ago
ACL语言生成中的社会偏见：进展与挑战
通过调查，我们着重讨论了语言生成中社会偏见的数据和技术对偏见的影响及降低偏见的进展，并进行了实验来量化解码技术的影响，提出了语言生成应用公平和包容性考虑的重要性。
PDF3 years ago
大型语言模型中持续存在的反穆斯林偏见
本文研究表明，目前最先进的语境化语言模型 GPT-3 存在对穆斯林的暴力偏见，我们对此进行了多方面的探讨和量化，并提出对抗性文本提示来缓解这种偏见。
PDF3 years ago
研究诗歌创作系统中的社会偏见
本研究旨在探讨如何在诗歌创作系统中进行下一个诗句建议检索时减轻社会偏见，并通过情感风格转换的数据增强方法，为减轻社会偏见提供了潜在的解决方案。
PDF4 years ago
解析叙事模式中的性别偏见
本文通过研究 TVTROPES dataset 中的 trope，exploring 其高度 gendered 的主题、gender bias 和流行程度之间的关系，以及作品创造者性别与其使用的 trope 类型之间的相关性。
PDF4 years ago
EMNLP使用聚类检测本地群体偏见的 LOGAN
该研究提出了一种基于聚类的本地偏差检测技术 LOGAN，用于分析和检测模型中的偏见，能够更好地分析模型预测中的偏见。
PDF4 years ago
EMNLP语言生成中的可控偏见
我们提出了一种通用方法来控制自然语言生成中的社会偏见。通过对特定人口群体进行输入提示的提及，我们开发了一种诱发社会偏见的方法，并对两种情况进行了分析：在一种人口群体中诱发负面偏见，同时在另一种人口群体中诱发正面偏见，并使偏见在不同人口群体之
PDF4 years ago
我们是否存在一致偏差？对分布式词向量偏差的多维分析
该研究对分布式词向量空间中的偏见效应进行了系统性分析，研究表明：偏见效应在不同的词向量模型、文本类型和语言之间是不一致的，同时，双语词向量空间中的跨语言偏见也是存在的。该研究以期促进自然语言处理中的偏见研究，为偏见缓解技术的发展提供帮助。
PDF5 years ago