WWWMar, 2023

MetaTroll: 基于 Transformer Adapter 的国家支持的 Troll 的小样本检测

PDF
TL;DRMetaTroll 是一种基于元学习框架的文本模型，利用少量标注样本进行 few-shot 转移，通过引入 “特定于活动” 的转换器适配器以针对新的活动目标，可以防止模型因为不断适应而忘记如何检测老活动中的恶意用户。实验表明，MetaTroll 明显优于基线和最先进的几种少样本文本分类模型，并且可以扩展到多语言和多模态检测。
state-sponsored trollsinfluence campaignssocial mediatroll detection modelmetatroll
发现论文，激发创造
  • hate-alert@DravidianLangTech-ACL2022: 集成多模态技术用于泰米尔语嘲讽 Meme 分类

    我们探索了多种模型来检测泰米尔语中的僵尸谷迷因，发现基于图像的模型 VGG16 在检测僵尸谷迷因上表现优异，但基于文本的模型 MURIL 在检测非僵尸谷迷因上表现更好，将这两种模型结合起来，我们达到了稳定的结果并在 ACL-2022 的 “DravidianLangTech2022” 中排名第二，实现了加权平均 F1 得分为 0.561。

    Mar, 2022

  • 研究视觉和文本特征以识别多模态社交媒体模因中的喷子

    本研究介绍了一个基于多模态特征和融合方法的计算模型，使用 XLNet 取得最高的加权 f1 分数 0.58，并在对多模态社交媒体 meme Troll 的分类任务中获得第三名。

    Feb, 2021

  • 利用 Transformer 在 Twitter 中多模态检测社交垃圾机器人

    早期检测社交垃圾机器人对于防范传播虚假信息和操控公众意见至关重要。本研究首次使用用户描述字段和图像，采用预训练的视觉模型以及 TwHIN-BERT 来获取文本和图像的表征，并提出了三种不同的融合方法进行多模态融合，并在 Cresci '17 数据集上进行了广泛实验，证明了我们方法在准确率上具有显著优势，达到了 99.98%。

    Aug, 2023

  • ELF22: 一份基于上下文的反网络喷子数据集用于打击网络喷子

    针对网络恶意评论的问题，本研究提出了一种新的数据集用于自动生成反击评论，经过实验验证，该数据集可以有效地改善对抗策略控制的句子生成。

    Jul, 2022

  • MisRoBÆRTa: 变形金刚与错误信息

    本论文提出了一种基于 transformer 的深度神经集成体系结构（MisRoBÆRTa），用于对谣言的检测，基于一个大型真实新闻文章数据集进行了训练和测试，并且使用两个 transformer（BART＆RoBERTa）来提高分级性能，成果显示 MisRoBÆRTa 在谣言检测任务上表现优于其他 transformer 模型。

    Apr, 2023

  • MetaAdapt: 基于 Meta Learning 的领域自适应小样本谣言检测

    本文提出 MetaAdapt，一个基于元学习的方法，旨在解决在社交媒体等新兴领域中针对虚假信息检测的数据稀缺性问题，具有更好的领域适应性、优秀的表现和大幅减少的参数。

    May, 2023

  • 谁会受到在线政治操纵的影响？

    研究探讨了俄罗斯如何通过社交媒体平台干预 2016 年美国总统选举。并且提出了一种采用预测模型来辨别转发恶意内容用户的方法，以此为未来防止此类行为提供有效的思路和帮助；接着，通过用户政治意识、机器人可能性以及其它活动相关的账户元数据三个方面，为我们辨别恶意转发用户提供了一些有力的建议。

    Aug, 2018

  • TeamX@DravidianLangTech-ACL2022: 基于 Troll 的 Meme 分类的比较分析

    本研究对网络 “喷子” 产生的恶意文本、图片和二者融合的混合内容进行了分类和对比分析。结果表明，基于多语言的文本和二者融合的混合内容分类性能更好，相较于基准算法有所提升。

    May, 2022

  • 预测社交媒体中政治喷子的角色

    本文研究了 “网络喷子” 在社交媒体中的政治角色，使用机器学习从社交媒体的推特中提取特征，基于监督学习和远程监督中的标签对喷子进行政治角色分类，优于现有技术，并提出了一个尚未被文献探索的第二个场景。

    Oct, 2019

  • 利用元神经分析检测 AI 木马

    本文提出了 Meta Neural Trojan Detection (MNTD) 管道来解决机器学习特洛伊木马攻击检测的挑战，通过训练一个能够预测目标模型是否被特洛伊木马攻击的元分类器来检测黑盒模型，同时引入 jumbo learning 以对特洛伊木马攻击进行分类和预测。在试验和对比中表明，MNTD 达到了 97% 的检测 AUC 分数，并优于现有的检测方法。

    Oct, 2019