Aug, 2019

利用情境维度在社交媒体上建模伊斯兰极端主义交流：宗教、意识形态和仇恨

PDF
TL;DR该研究通过基于语境维度的计算方法及相关知识资源，对推特上的极端主义内容进行了深入分析，开发出一种可靠的算法来识别和反制网络极端化。与竞争算法相比，该算法能够将误标记减少 10.2%。
发现论文，激发创造
  • 深入兔子洞：探测网络极端主义、激进化和政治化仇恨言论

    研究 ERH 上下文挖掘的特殊领域，汇总了 51 项相关研究，着重于自然语言处理、社区检测和视觉文本模型，提出了推荐给研究人员、政府和行业的实施路线图，旨在建立更安全的网络空间。

    Jan, 2023

  • 社交媒体暴力极端主义者检测

    本文设计了一个自动检测计划，利用与用户名、个人资料和用户文本相关的三组信息，确定给定用户名是否属于极端主义用户，该方案提出了高度表征潜在在线极端主义的特征，适用于 Twitter，能够有效地识别极端主义用户。

    Feb, 2019

  • 社交媒体中的上下文仇恨言论词汇挖掘

    通过社群检测方法和词嵌入模型，本研究发现标记数据和关键词方法在探测新兴极端组织使用的词汇时效果不佳，提出使用学到的代号词汇来识别 hate speech 的方法，通过实验得出该方法的准确度比使用关键词更高，可以被应用于自动化 hate speech 检测。

    Nov, 2017

  • 使用 BERT 监测极端社交媒体上反犹太主义言论的演变

    通过自动化方法和无监督机器学习，从极端社交媒体中提取反犹太主义的主题和术语，以监测其情绪和演变，预防仇恨升级。

    Feb, 2024

  • 评估情境信息对于仇恨言论检测的影响

    本文通过提供一个西班牙语口音的基于社交媒体中与 COVID-19 相关的新闻发布的用户回复的语料库，证明了对于检测 hate speech，加入上下文信息可以提高自动检测模型的性能。

    Oct, 2022

  • 极端主义暴力对网络仇恨言论的影响

    本文研究了暴力事件对 Twitter 和 Reddit 等社交媒体平台上恶意言论量和类型的影响，结果表明极端暴力事件会导致在线恶意言论的增加，特别是直接鼓吹暴力的言论。该研究对在线恶意言论的监控具有重要意义，并提出了对抗恶意言论的方式。

    Apr, 2018

  • 使用深度学习检测在线媒体中的激进文本

    采用深度学习算法检测网络极端化，与现有基于机器学习算法的工作相反，论文提出了一种 LSTM 基于前馈神经网络的方法。通过收集来自各种在线资源的记录并由领域专家进行注释，成功将这些记录分为极端（R）、非极端（NR）和无关（I）三类，并应用于 LSTM 基于网络进行分类，取得了 85.9％的精度。

    Jul, 2019

  • 基于图变换的定性分析，应对仇恨言论：适应内容动态变化

    本文介绍了一种利用图转换网络、注意力和 BERT 等自然语言处理技术来预测社交媒体中仇恨言论的方法，并分析了该方法在检测效果上的优劣和扩展性。研究发现，关注上下文可以支持多模态的在线帖子分析，从而解决社会影响的 AI 解决方案中面临的动态变化的问题，并通过策划内容来增进心理健康。

    Jan, 2023

  • 预测在线极端主义、内容采纳者和互动互惠

    本文提出了一个机器学习框架，利用元数据、社交网络和时间特征来检测极端用户，以及预测社交媒体中内容的采用者和互动的反应，特别是在推特平台的极端用户检测、普通用户采用极端内容的预测以及用户是否会互相联系的预测上，表现非常优异，预测准确率分别高达 93%、80% 和 72%。

    May, 2016

  • 探索边界和强度：揭示社交媒体言论的复杂范围

    使用 8,258 条推特进行标注，该研究创建了一个广泛的 Amharic 基准数据集，用于三个任务：分类、识别仇恨目标和评估冒犯和仇恨的强度。结果显示，仇恨和冒犯性言论无法用简单的二元分类解决，并且在连续数值范围内变量化。Afro-XLMR-large 模型在这些任务中表现出最好的性能，分别达到了 75.30％，70.59％和 29.42％的 F1 分数。Afro-XLMR-large 模型的 80.22％相关系数显示了强大的一致性。

    Apr, 2024