Jan, 2024

通过音频分析辨别信哈拉语 YouTube 视频中的虚假内容和仇恨言论

PDF
TL;DR为了解决 YouTube 在全球范围内传播虚假信息和仇恨言论的危机，本研究针对 Sinhala 语 YouTube 视频提出了一个解决方案，通过比较标题、描述和音频内容，评估视频是否包含虚假信息，并检测其中是否包含仇恨言论，以减少暴力和谣言的传播。采用的方法包括使用 Pytube 库提取音频，通过 fine-tuned Whisper 模型进行音频转录，使用 distilroberta-base 模型和文本分类 LSTM 模型检测仇恨言论，并通过 fine-tuned BART-Large-XSUM 模型进行文本摘要。
发现论文，激发创造
  • 印度 - 雅利安语言中的仇恨言论和冒犯内容检测：基于 LSTM 和 Transformers 的对抗

    该研究在五种不同语言中展开了对仇恨言论的广泛比较分析，使用多种预训练模型评估其在这些语言中识别仇恨言论的性能，并为多语言环境下构建强大的仇恨言论检测系统提供了有益的见解。

    Dec, 2023

  • 孟加拉语仇恨言论检测：数据集及其基准评估

    本文针对社交媒体上孟加拉语仇恨言论检测的挑战，通过众包标注和专家验证构建了一个包含 30,000 条用户评论的数据集，并利用多个深度学习模型对其进行了实验。结果表明将 SVM 用于该数据集能够获得 87.5% 的准确率，该数据集将推动孟加拉语仇恨言论检测领域的未来研究机会。

    Dec, 2020

  • 探索基于 Transformer 的模型以识别英语和印度雅利安语中的仇恨言论和攻击性内容

    本篇论文探索了基于 Transformer 的多种机器学习模型，用于探测英语和印度 - 雅利安语中的仇恨言论和冒犯性内容，研究团队 “超级马里奥” 采用 mBERT、XLMR-large、XLMR-base 等多种模型，我们在 Code-Mixed 数据集排名第二（宏平均 F1：0.7107）、在印地语二分类中排名第二（宏平均 F1：0.7797）、在英语四分类中排名第四（宏平均 F1：0.8006），在英语二分类中排名第十二（宏平均 F1：0.6447）。

    Nov, 2021

  • 基于 Transformer 深度学习的多语种仇恨言论分析与检测

    使用基于 Transformer 模型的算法来检测社交媒体上的仇恨言论，无论语言如意大利语、英语、德语还是孟加拉语，该模型的检测准确率较现有基准和最先进模型提高，其成功率达到了 89%（孟加拉语）、91%（英语和德语）以及 77%（意大利语）

    Jan, 2024

  • 多模态机器学习的仇恨言论检测

    该研究提出了一种多模态系统的综合方法，通过提取视频内容中的特征图像、音频、文本的特征值，并利用机器学习和自然语言处理来检测恶意言论。

    Jun, 2023

  • 通过 Transformer 模型进行 YouTube 转录上的上下文分析以确定错误信息

    介绍了一种新的视频分类方法，通过利用视频转录的文本内容将传统的视频分类任务转化为文本分类任务，并应用迁移学习中的精调和少样本学习方法，通过对 YouTube 的虚假信息视频、伪科学视频以及假新闻数据集的评估，证明了该方法在识别验证信息和误导信息方面的效果。

    Jul, 2023

  • 基于特征提取的仇恨言论识别模型

    本文介绍了 TU Berlin 小组在 2021 年印欧语言仇恨言论与攻击性内容检测共享任务的 1A 和 1B 子任务中采用的不同自然语言处理模型，包括基于循环神经网络的单词和字符级别模型以及基于 Bert 的转移学习方法，并评估了不同模型在比赛中的表现。结果表明，基于转移学习的模型在两个子任务中均取得了最佳结果。

    Jan, 2022

  • 在线医学视频虚假信息自动检测

    本研究介绍了一个新数据集，其中包含 250 个手动注释的前列腺癌视频，用于自动检测 YouTube 视频中的错误信息。研究者们利用语言、声学、和用户参与等特征开发了分类模型，其识别错误信息的准确率可达到 74％，具有 76.5％的精确度和 73.2％的召回率。

    Sep, 2019

  • 孟加拉语仇恨言论和冒犯性语言检测

    本研究针对 Bengali 等低资源语言在社交媒体上的仇恨言论进行研究，开发了一个定量数据集并建立了基线模型和一些额外的方法以更好地进行分类。在分析误分类之后，我们确认 XLM-Roberta 在单独训练 actual 或 rominized 数据集时表现最好。而在联合训练和小样本训练中，MuRIL 通过更好地解析语义表达比其他模型表现更优秀。

    Oct, 2022

  • HateCheckHIn：对印地语仇恨言论检测模型的评估

    针对社交媒体中存在的多语言仇恨言论，本文提出了一种针对多语言仇恨言论模型的功能集，被用于对现有模型的诊断分析。通过以印地语为基础语言，构建了 HateCheckHIn 评估数据集，测试了最先进的基于 Transformer 的 m-BERT 模型以及 Perspective API。

    Apr, 2022