基于焦点推理融合可处理密度判别的隐式仇恨言论检测

Sep, 2023

基于焦点推理融合可处理密度判别的隐式仇恨言论检测

Focal Inferential Infusion Coupled with Tractable Density Discrimination for Implicit Hate Speech Detection

Sarah Masud, Ashutosh Bajpai, Tanmoy Chakraborty

TL;DR通过结合外部上下文和基于距离的标签分离度量，在预训练大型语言模型（PLMs）的 Fine-tuning 流程中引入了一种名为 FiADD 的新型专注推理自适应密度区分框架，可显著提高对含隐性仇恨内容的检测性能，同时适用于检测讽刺、反讽和立场的任务，并通过分析生成的潜空间，验证了 FiADD 在隐性仇恨 speech 检测中的优势。

Abstract

Although pre-trained large language models (PLMs) have achieved state-of-the-art on many NLP tasks, they lack understanding of subtle expressions of implicit hate speech. Such nuanced and implicit hate is often m

pre-trained large language models implicit hate speech fiadd focused inferential adaptive density discrimination latent space

发现论文，激发创造

利用双重对比学习进行仇恨言论检测

本文提出了一种新颖的双对比学习框架，用于捕获 hate speech 中的短语级情感语义，并通过将聚焦损失集成到框架中来解决数据不平衡问题，并在两个英语数据集上取得了 state-of-the-art 的表现，从而成功地检测出 hate speech。

Jul, 2023

HCDIR：在线评论的端到端仇恨上下文检测与强度降低模型

在这篇论文中，我们提出了一种新颖的端到端模型 HCDIR，用于社交媒体帖子中仇恨上下文的检测和仇恨强度的降低。我们通过微调多个预训练语言模型来检测仇恨评论，并通过集成梯度（IG）模型辩证地确定了这些仇恨词的上下文。最后，我们使用掩蔽式语言建模（MLM）模型捕捉领域特定细微之处，以降低仇恨强度。我们在多个最新数据集上进行了广泛的实验，并使用基于自动度量标准（BERTScore）和全面的人工评估来增强信度。为了提高人工评估的可靠性，我们安排了一个由 3 名具有不同专业知识的人类标注者组成的小组。

Dec, 2023

数据扩增语义关系推理在反亚裔仇恨言论检测中的应用

本研究提出了一种新方法，利用情感话题标记在自然语言推理框架中增强仇恨言论检测，并在实际数据集上证明了其相对于现有表示学习模型的有效性。

Apr, 2022

多模態仇恨自動偵測演算法評估

该研究探讨了使用语义和多模态上下文来检测隐含和明确的仇恨言论，并且发现使用这种方法可以提高模型性能。同时还针对一批 5000 个多模态内容样本进行了高质量的注释，并将其释放为公开可用的语料库和代码。

Jun, 2021

嵌入式融合的艺术：优化仇恨言论检测

本文评估并比较了几个预训练语言模型的组合方法，发现使用嵌入的组合技术能够略微提高效果，但计算成本高，而组合方法的选择对结果影响微乎其微。

Jun, 2023

评估自然语言推理在标注数据有限的语言下对仇恨言论检测的有效性

本研究探讨了自然语言推理（NLI）模型对于在仅有少量标记数据的情况下，提高仇恨言论检测性能的可行性，并提出了一组针对存在极少标记训练数据的语言的仇恨言论检测推荐方法。

Jun, 2023

研究面向仇恨言论检测的 PLM 关键学习动态

调查预训练语言模型对恶意言论检测性能的影响，比较不同的预训练模型，评估其鲁棒性及微调设置，并探究预训练数据收集时间的影响。分析结果显示预训练阶段对后期任务有早期的峰值，使用最新的预训练语料库的效益有限，微调阶段会受特定层的影响。对于恶意言论检测，领域特定模型的使用被质疑，并强调需要动态数据集进行评估比较。

Feb, 2024

隐含有害内容的目标跨度检测

通过收集并标注三个主要的暗含仇恨言论数据集（SBIC，DynaHate 和 IHC），我们定义了一个新的任务，旨在识别暗含仇恨言论的目标，并利用人类注释和大型语言模型（LLM）的匹配分数来实现这一目标。实验表明，Implicit-Target-Span 为目标跨度检测方法提供了一个具有挑战性的测试平台。

Mar, 2024

潜在的仇恨：理解隐含仇恨言论的基准

本文介绍了一种基于理论的隐含仇恨言论分类系统和一个包含细粒度标签的基准语料库来填补现有研究关注的漏洞。研究通过对数据集的系统分析来探讨隐含仇恨言论识别和解释的挑战，并阐述了关键特征。这个数据集将继续作为一个有用的基准，用于理解这个多方面的问题。

Sep, 2021

通过检索引导的对比学习改进恶意模因检测，学习具有恶意感知能力的嵌入空间

我们提出使用检索引导的对比训练构建一种恶意感知的嵌入空间，以解决现有基于 CLIP 的系统的嵌入空间对于正确恶意分类所需的微小差异缺乏敏感性的问题，并展示了一种基于检索的恶意违规表情包检测系统，该系统能够根据未在训练中见过的数据进行恶意分类，无需重新训练，适用于互联网恶意违规表情包不断演变的实际服务的持续更新。

Nov, 2023