Nov, 2023

反性别歧视警报系统：利用人工智能技术识别社交媒体上的性别歧视评论

PDF
TL;DR基于自然语言处理和人工智能的反性别歧视警报系统可分析任何公共帖子，判断是否为性别歧视评论，提供类似于交通灯的颜色系统来判断整体帖子中是否存在性别歧视，该系统在西班牙语标记数据集上训练，并取得了很好的性能表现。
social relationshipsdigital violencesexism against womenanti-sexism alert systemnatural language processing
发现论文，激发创造
  • 职场常用的性别歧视言论的自动检测

    本文提出一种基于深度学习和注意力机制的性别歧视检测模型，该模型使用 GloVe 或随机词嵌入，并应用于一组更加有针对性的和多样化的数据集，以获得 0.88 的 F1 分数，以区分更加微妙和难以检测的工作场所性别歧视言论。

    Jul, 2020

  • 对代码混合的厌女言论进行的探索性数据分析

    通过分析 YouTube 上的 Hinglish 评论数据集，实施预处理和探索性数据分析技术，从情感评分和词云等角度对该数据集的特性进行了深入了解。

    Mar, 2024

  • 数据饮食下的性别主义检测

    我们展示了如何利用影响分数来估计在训练模型和设计剪枝策略时数据点的重要性，应用于性别歧视检测案例中，我们评估了不同剪枝策略下训练的模型在三个领域外数据集上的性能，并发现大部分实例可以删除而不会显著降低性能，但我们还发现之前在自然语言推理任务中成功的剪枝数据策略不适用于检测有害内容，反而进一步加剧了已经普遍存在的类别不平衡问题，导致最坏情况下恶意类别完全消失。

    Jun, 2024

  • AI-UPV 在 EXIST 2023 中使用大型语言模型进行学习与分歧制度下的性别歧视特征化

    该研究论文描述了 AI-UPV 团队在 CLEF 2023 的 EXIST（社交网络中的性别歧视识别）实验室中的参与情况，旨在通过训练大型语言模型和集成策略来解决性别歧视识别和分类的任务，在学习中处理争议，无需使用任何聚合标签。

    Jul, 2023

  • 使用神经框架进行性别歧视帐户的多标签分类

    本文介绍一种基于神经网络的多标签性别歧视分类方法，利用包括 BERT 在内的模型获得的句子表示，结合分布式和语言学词嵌入，采用灵活的层次结构，进一步利用未标记的性别歧视账户来注入领域特定元素。该方法在多个深度学习和传统机器学习基线中表现最佳。

    Oct, 2019

  • SemEval-2023 任务 10：可解释的在线性别歧视检测

    介绍 SemEval 任务 10，该任务是关于可解释的在线性别歧视检测（EDOS）。我们提出了新的性别歧视分层分类体系，包括帮助解释的细粒度歧视向量，并提供了一个新的带有细粒度标签的 20,000 条社交媒体评论数据集，以及用于模型适应的更大型的未标注数据集，并提供了任务的基线模型以及对参与者提交的方法、结果和错误的分析。

    Mar, 2023

  • 双语性别歧视分类：Fine-Tuned 的 XLM-RoBERTa 和 GPT-3.5 少样本学习

    通过利用自然语言处理模型，提高双语环境（英语和西班牙语）下的性别歧视识别能力，并使用 XLM-RoBERTa 模型和 GPT-3.5 完成两个任务，即判断文本是否性别歧视以及其来源意图。

    Jun, 2024

  • 基于注意力机制的在线骚扰语言分类方法

    该研究基于复杂的注意力机制与反向翻译技术，使用递归神经网络对 Twitter 上不同类型的网络骚扰进行了自动化识别，并与使用递归神经网络的其他方法进行了比较。

    Sep, 2019

  • 基于深度学习的推文中的恶意语言检测

    该论文提出了一种在社交媒体上识别仇恨内容的检测方案，并使用带有用户相关信息的各种特征以及来自文本内容的词频向量输入到一组循环神经网络分类器中，经实验证明该方法的有效性不仅可以成功区分仇恨言论和正常文本，而且分类的准确性也高于现有的最先进算法。

    Jan, 2018

  • 叫我性别歧视者，但是...": 使用心理学量表和对抗样本重新审视性别歧视检测

    本文提出用基于心理学测量中的不同维度将性别歧视划分的代码书以及该代码书在社交媒体上标注现有和新的数据集的应用程序，以生成对抗性示例并测试当前机器学习模型在性别歧视检测方面的可靠性。虽然现有模型只能识别有限的语言标记，但包括多元化数据和对抗性示例在训练期间可改善模型广泛性和鲁棒性。

    Apr, 2020