Apr, 2022

多语种和多模态滥用检测

PDF
TL;DR本文提出了一种多模态方法（MADA），以从社交媒体上的多语言对话音频中检测滥用内容为目标，并证明利用其他模态的判别信息对音频建模可以极大地提高性能。实验证明，MADA 可以在 ADIMA 数据集上取得比仅使用音频的方法更好的表现，并且在测试了 10 种不同语言后，在多模态结合的情况下可以获得 0.6％-5.2％ 的一致增益。 此外，我们还做了实验证明了潜在情绪和虐待行为之间存在强烈的相关性。
abusive contentsocial mediaaudio abuse detectionmultimodal perspectiveunderlying emotions
发现论文，激发创造
  • 多语种音频中的滥用检测（ADIMA）

    使用自动语音识别和自然语言处理方法进行指辞文本检测，提出了一种说明性多语种骂人检测音频数据集（ADIMA），该数据集取样 10 个印度语言，包含 11,775 个音频样本，旨在实现 Indic 语言中音频内容审核的民主化。

    Feb, 2022

  • 基于情感的仇恨言论多模态学习检测

    本文提出了首个多模式深度学习框架，将表达情感的音频特征与语义特征相结合，以检测有害的多媒体内容，包括暴力辱骂和冒犯性言论，结果表明，情感特征的结合可以明显提高系统的性能，同时我们也提出了一个新的有害言论检测视频数据集（HSDVD）以支持多模式学习。

    Feb, 2022

  • 多模态机器学习的仇恨言论检测

    该研究提出了一种多模态系统的综合方法，通过提取视频内容中的特征图像、音频、文本的特征值，并利用机器学习和自然语言处理来检测恶意言论。

    Jun, 2023

  • 全面检测滥用内容！走向普适的滥用语言检测模型

    本文中我们介绍了一个名为 MACAS 的新型通用虐待性语言检测框架，该框架能够解决跨不同领域的多种虐待性语言任务，其中使用了多角度虐待性语言嵌入和文本图嵌入分析用户的语言行为，并使用了交叉注意力门机制来有效处理多方面的虐待语言，并在 7 个 ALD 数据集上进行了评估，结果表明我们的 ALD 算法在多个领域的虐待性语言问题上表现优异，可以与当前六种最先进的 ALD 算法相媲美甚至超越。

    Oct, 2020

  • 一种用于检测恶意模因的多模态框架

    本篇论文旨在针对多种形式的恶意言论，特别是采用 Memes 表达的恶意言论开发一种新的多模态框架，该框架通过交叉验证的集成学习等增强措施，有效提高了已有多模态方法的性能，并在 Facebook 组织的 2020 年恶意 Memes 挑战的第二阶段中获得了 AUROC 评分 80.53，位列第四。

    Dec, 2020

  • 多模式出版物中仇恨言论检测的探讨

    本文研究针对文本和图像组成的多模态出版物中仇恨言论的检测问题。 我们从 Twitter 收集和注释了大规模数据集 MMHS150K，并提出了不同的联合文本和视觉信息的模型用于比较仇恨言论检测中的单一模态检测，提供了定量和定性结果并分析了所提出任务的挑战。 我们发现，尽管图像对于仇恨言论检测任务很有用，但目前的多模态模型无法超越仅分析文本的模型。 我们讨论了原因并开放该领域和数据集以进行进一步研究。

    Oct, 2019

  • 音视融合技术增强儿童视频多模态内容审核

    针对面向儿童的视频内容创作数量的增加，需要强大的视频托管平台内容审核方案。我们提出了一种有效的 CLIP 适应方法，利用上下文音频提示来增强内容审核，通过冻结各个模态的背景模块，将音频模态和提示学习融合，对多模态版本的恶意或良性数据集进行了实验。

    May, 2024

  • 混合代码社交媒体文本中跨语言滥用识别

    本文提出了一种针对多语言 Moj 数据集的辱骂识别方法，解决了非英语社交媒体内容中常见的混合码，音译和使用不同文字的额外挑战。

    Mar, 2022

  • 创建图像和文本混合数据集以研究辱骂语言

    使用 CREENDER 开发了一个注释工具，用于创建图像和滥用评论的多模态数据集，该数据集在不同角度被分析，发现图像中是否存在人会增加触发攻击性评论的概率。

    May, 2020

  • 改进基于数据引导的印度语恶意语言检测方法，提高低资源环境下的检测效果

    本篇论文探讨针对印度尼西亚语多语种辱骂性言论的大规模分析，研究不同的语言转移机制及该领域的多语种模型的表现，同时探究此类模型对抗性攻击的能力，并进行了误判分析。

    Apr, 2022