Sep, 2023

基于大型语言模型的在线仇恨言论、错误信息和普遍心理健康的拓扑数据映射研究

PDF
TL;DR社交媒体上的仇恨言论和错误信息与心理健康之间存在关联，使用机器学习和大型语言模型，从 Reddit 等社区获取数据并进行分析，揭示了它们在社区中的作用及其与心理障碍和整体心理健康之间的联系。
social mediahate speechmisinformationpsychological wellbeingmachine learning
发现论文，激发创造
  • 社交媒体仇恨言论检测的迁移学习

    本文介绍了一种机器学习和自然语言处理模型，通过自动识别网页文本中的仇恨言论以及利用迁移学习技术构建了一个识别仇恨言论的表示方法，并开发了一个可视化工具用于多个数据集的简要分析。

    Jun, 2019

  • 使用多语言 Transformer 模型自动分析 Facebook 数据的情感和仇恨言论

    本文通过分析 Facebook 上代表性的 far-right Hindutva pages 数据集来解决 Social Media Platforms 上 toxic speech 和 hateful content 的问题，使用 state-of-the-art 的 XLM-T multilingual transformer-based language models 对文本内容进行情感和 hate speech 分析，并讨论预训练语言模型的性能和局限性。

    Jan, 2023

  • 探索基于 Transformer 的模型以识别英语和印度雅利安语中的仇恨言论和攻击性内容

    本篇论文探索了基于 Transformer 的多种机器学习模型，用于探测英语和印度 - 雅利安语中的仇恨言论和冒犯性内容，研究团队 “超级马里奥” 采用 mBERT、XLMR-large、XLMR-base 等多种模型，我们在 Code-Mixed 数据集排名第二（宏平均 F1：0.7107）、在印地语二分类中排名第二（宏平均 F1：0.7797）、在英语四分类中排名第四（宏平均 F1：0.8006），在英语二分类中排名第十二（宏平均 F1：0.6447）。

    Nov, 2021

  • 基于 Transformer 深度学习的多语种仇恨言论分析与检测

    使用基于 Transformer 模型的算法来检测社交媒体上的仇恨言论，无论语言如意大利语、英语、德语还是孟加拉语，该模型的检测准确率较现有基准和最先进模型提高，其成功率达到了 89%（孟加拉语）、91%（英语和德语）以及 77%（意大利语）

    Jan, 2024

  • 探究社交媒体中针对仇恨言论的深度学习方法

    本文提出利用深度学习方法，结合各种嵌入技术，在社交媒体中检测各种类型的仇恨言论，特别是在包含有限上下文信息的推文中，这是一种非常具有挑战性的任务，三个公开数据集的实验结果表明精确度和 F1 得分都有显著提高。

    May, 2020

  • DeepHate: 多维文本表示的仇恨言论检测

    提出一种新颖的深度学习模型 ——DeepHate，以使用多方面的文本表示方法（如词嵌入、情感和主题信息），自动检测在线社交平台上的仇恨言论。在三个公开可用的实际数据集上进行了广泛的实验和评估，结果表明 DeepHate 在检测仇恨言论的任务上优于现有技术水平，并进行了案例研究，以提供有助于检测在线社交平台上的仇恨言论的显着功能的见解。

    Mar, 2021

  • 利用人工智能打击网络仇恨：探索大型语言模型在仇恨言论检测中的挑战和机遇

    我们的研究通过综述和实证分析，揭示大型语言模型在检测恶意言论中的能力和限制，强调它们作为分类器的角色以及发现优秀的模型和他们的特点和训练方法，为理解大型语言模型在关键的恶意言论检测领域的能力做出贡献。

    Mar, 2024

  • 数据扩增语义关系推理在反亚裔仇恨言论检测中的应用

    本研究提出了一种新方法，利用情感话题标记在自然语言推理框架中增强仇恨言论检测，并在实际数据集上证明了其相对于现有表示学习模型的有效性。

    Apr, 2022

  • HateRephrase: 在线帖子中使用大型语言模型进行零次和少次转换减少仇恨强度

    研究表明，使用大型语言模型（LLMs）在检测潜在仇恨言论并在发布前对其进行重新表述方面表现优异，进而减少其仇恨程度而不改变原始文本的语义意义。

    Oct, 2023

  • 基于图变换的定性分析，应对仇恨言论：适应内容动态变化

    本文介绍了一种利用图转换网络、注意力和 BERT 等自然语言处理技术来预测社交媒体中仇恨言论的方法，并分析了该方法在检测效果上的优劣和扩展性。研究发现，关注上下文可以支持多模态的在线帖子分析，从而解决社会影响的 AI 解决方案中面临的动态变化的问题，并通过策划内容来增进心理健康。

    Jan, 2023