Jan, 2019

利用人工智能武装公众以对抗社交机器人

PDF
TL;DR社交媒体中出现了越来越多的机器人欺诈行为，研究者们开发了不同类型的人工智能工具，以帮助公众对抗这些欺诈行为，其中包括 Botometer 等常用的机器人检测工具。本文综述了机器人的不同类型、它们的影响以及检测方法，并通过对 Botometer 的案例研究，详细讨论了 AI 检测工具在人们中的使用，同时谈到了在机器学习方法和反机器人攻击之间的必要性和影响。
social mediasocial botsai toolsbotometerbot detection
发现论文，激发创造
  • 对抗性引流机器人检测的对抗性分析

    社交机器人在在线社交网络中扮演重要角色，最近生成式人工智能（GenAI）的进展使得社交机器人能够产生高度逼真且复杂的内容，模仿人类创造力。为了识别这些虚假内容并区分其生成者，对该问题的多种方法已经被提出，但这些解决方案的广泛评估尚未进行。为了解决这个问题，我们评估了一个基于文本的机器人检测器在一个有竞争环境下的行为，对不同类别的社交机器人进行了全面的评估，并展示了一些可以用于未来工作的成果。

    May, 2024

  • 社交垃圾邮件机器人的范式转变：证据、理论和武器竞赛

    通过对推特社交垃圾邮件的研究，发现社交垃圾邮件的崛起并不被 Twitter 和人类所能够准确检测，提出需要新的方法来解决这一问题，并且将对集体行为的分析作为一种新型的检测方式。

    Jan, 2017

  • 安全第一：一种对抗方法以提高社交机器人检测的效果

    该研究采用基因算法综合当前最先进的社交机器人，通过操纵 Twitter 社交机器人的发展演变，提高社交机器人检测技术的有效性。结果表明，该方法逃避了当前的检测技术，但揭示了人们改进这些技术所需的要素。

    Apr, 2019

  • 在线人机交互：检测、估计和描述

    本文提出了一个基于超过一千个公共数据和元数据特征的框架，用于检测 Twitter 上的社交媒体自主实体（即社交媒体机器人）。经测试，此框架能够与公开的 Twitter 机器人数据集高度契合，可以检测不同类型的机器人，如垃圾邮件发送者、自我推广者和使用连接应用程序发布内容的账户等，并且估计在活跃的 Twitter 账户中有 9% 至 15% 的机器人，机器人相互之间的交互关系有助于研究用于相互之间通信的转发和提到策略。

    Mar, 2017

  • 社交机器人的兴起

    探讨社交机器人的现代特征和存在对在线生态和社会的危害性，以及对于在 Twitter 上检测社交机器人的现有努力以及这些机器人行为的特征，如内容、网络、情绪和时间模式与真实人类行为的区别。

    Jul, 2014

  • 利用在线用户画像检测 Twitter 上的社交机器人

    通过机器学习模型，利用推文文本中提取的用户资料来检测社交机器人（social bots）的研究，其主要贡献为提出一种利用个人信息相似性来区分社交机器人和人类用户的新模型，并创建了一个包含 6900 个 Twitter 账户资料的公共数据集。

    Mar, 2022

  • 聊天机器人作为社交伴侣：人们对机器中的意识、人类相似性和社交健康益处的认知

    使用伴侣机器人对社交健康具有益处，而非使用者认为它们有害社交健康；同时，感知伴侣机器人更具意识和人类特征与积极意见和更好的社交健康效益相关。

    Nov, 2023

  • 从网络行为到图像：一种新的社交机器人检测方法

    本论文从 Twitter 账号出发，提出了使用卷积神经网络的新型算法，将账号执行的操作序列转化为图片，并进行图像分类，从而进行 bot 检测。结果证实了该方法的有效性，因为它与现有技术处在同一水平，并在某些情况下更好。

    Apr, 2023

  • 陌生人时人们变得奇怪：机器人对社交网络的影响和影响力

    通过在线社交实验，发现没有信任、档案和复制用户行为目标的机器人可通过基本的社交探测活动在社交媒体上获得社交相关性，进而有效地引导用户的社交连接选择，并揭示了隐蔽的社交极化模式和用户感知的微妙隐私风险。

    Jul, 2014

  • 仅凭名称便可检测和标识机器人

    本研究提出了一个多模型的工具箱方法，以便在各个数据细粒度层次上进行检测，并使用随机字符串检测过滤推特流以获取标记数据进行后续研究。

    Dec, 2018