StereoKG: 基于数据驱动的文化知识与刻板印象知识图谱构建

ACLMay, 2022

StereoKG: 基于数据驱动的文化知识与刻板印象知识图谱构建

StereoKG: Data-Driven Knowledge Graph Construction for Cultural Knowledge and Stereotypes

Awantee Deshpande, Dana Ruiter, Marius Mosbach, Dietrich Klakow

TL;DR本研究介绍了一种数据驱动的生成文化知识和刻板印象知识图谱的全流程，并进行了评估和训练，提高了模型的文化认知和对抗仇恨言论检测的性能。

Abstract

Analyzing ethnic or religious bias is important for improving fairness, accountability, and transparency of natural language processing models. However, many techniques rely on human-compiled lists of bias terms,

ethnic bias religious bias natural language processing knowledge graph hate speech detection

发现论文，激发创造

使用基于知识的概括去除对仇恨言论检测任务的刻板偏见

针对社交媒体平台上不断增加的仇恨言论传播案例，本文提出了一种基于知识的泛化学习方法，旨在从无结构的文本数据中去除偏差和刻板化的词语，以实现偏差性言论的检测和控制。实验结果表明，与基于传统偏差去除方法的分类器相比，使用本文所提出的方法获得了更好的性能和偏差缓解效果。

Jan, 2020

BiasKG: 用对抗知识图谱在大型语言模型中引入偏见

现代大型语言模型拥有丰富的世界知识，可以在正确利用的情况下在常识推理和知识密集型任务方面取得强大的性能。然而，语言模型也能够学习社会偏见，可能对社会造成重大危害。本文提出了一种使用知识图谱增强生成模型的攻击语言模型的新方法，并采用敌对攻击策略诱导多个开源和闭源语言模型产生偏见性回应。我们发现我们的方法增加了所有模型的偏见，即使那些经过安全保护性训练的模型也是如此。这表明在 AI 安全领域需要进一步的研究，以及在这个新的敌对空间中的进一步工作。

May, 2024

知识图谱中自动检测偏差

本文提出了一种基于数值偏差度量的方法，用于识别和暴露知识图谱嵌入中存在的偏见，并在职业预测任务中展示了三种不同的偏见度量，从而弥补了目前文献中手动指定偏差关系的缺陷，以支持更明智的决策。

Sep, 2021

BanglaAutoKG：语义神经图过滤在孟加拉自动知识图谱构建中的应用

提出 BanglaAutoKG 框架可从任何孟加拉语文本自动构建孟加拉知识图谱，并通过多语言 LLMs、翻译字典、预训练 BERT 模型等构建基础图谱，最后利用基于 GNN 的语义过滤器形成最终的知识图谱。

Apr, 2024

StereoSet：测量预训练语言模型中的陈词滥调偏见

该论文介绍了 StereoSet，一个用于评估英语中预训练语言模型中四种基于性别、职业、种族和宗教的陈规陋习偏见的大规模自然数据集，并评估了 BERT、GPT-2、RoBERTa 和 XLNet 等流行的语言模型在其中的表现，同时呈现了一个有隐藏测试集的排行榜来跟踪未来语言模型的偏见。

Apr, 2020

SeeGULL 多语言：一个地理文化背景下定位的刻板印象数据集

使用 LLM 生成多种语言模型的方法，结合文化验证，建立全球规模的多语言社会刻板印象数据集，包含超过 20 种语言中的 25,000 个刻板印象，并且通过人工注释来显示其在模型评估中的差距。

Mar, 2024

VisionKG：通过知识图谱释放视觉数据集的力量

我们提出了一种基于知识图谱和语义网络技术的 Vision Knowledge Graph（VisionKG），用于链接、组织和管理具有异构特征的视觉数据集，提供简单访问和查询不同格式和分类法的最新视觉数据集，增强语义丰富性并通过 SPARQL 提供多种数据检索与探索服务，集成了 30 个数据集和四个流行 CV 任务，展示了在 CV 流程中的多种应用场景。

Sep, 2023

利用多视角知识图谱嵌入实现文化遗产地理定位

本文提出了一种从各种数据源吸收文化遗产实体及其连接的多跳知识到地理本地化 KG 中的框架，并提出了一种基于地理及知识连接的文化遗产实体间相对距离的多视图学习模型。

Sep, 2022

大规模多元文化知识获取与语言模型基准测试

通过从维基百科文献到链接页面的导航，建立文化知识的多元多样化采集方法与 CultureAtlas 数据集，该数据集涵盖了各种亚国家地理区域和族群，用于评估语言模型在文化多元背景下的表现和开发具有文化敏感和意识的语言模型，以促进数字领域中全球文化的更具包容性和平衡的表达。

Feb, 2024

增强基于文本的刻板印象检测和基于探针的偏见评估的大型语言模型审计

大规模语言模型在人工智能应用领域有显著的进展，但存在刻板输出的问题。本研究介绍了多维度刻板模式数据集，探索了基于不同机器学习方法的刻板模式检测基线，通过调整语言模型架构和大小，构建了英文文本的一系列刻板模式分类器模型，并使用可解释性人工智能工具进行验证和分析。在生成文本任务中，使用优秀的刻板模式检测器评估了流行大规模语言模型的刻板模式存在程度，并得出了多个关键发现。

Apr, 2024