AAAIDec, 2021

重新考虑推特：在推文创建期间进行干预可减少冒犯内容

PDF
TL;DR本研究在 Twitter 上进行随机对照试验，评估了一种新的干预方法，使发帖者有机会暂停并重新考虑他们的推文，结果发现接受干预的用户比未接受干预的用户发布的冒犯推文少 6％，该干预不仅减少了暂停后的危害推文的数量，还降低了未来的发布和回复数量。因此，让用户重新考虑评论是减少网络冒犯内容的有效机制。
发现论文，激发创造
  • 社交媒体内容算法化审核中被忽视的意图角色

    通过考察自动检测和审查系统的最新发展以及训练数据集的成熟度，探讨了作者意图对于内容审查系统的重要性，并提出了改善自动检测和审查系统以符合道德和政策观念的策略性变革。

    May, 2024

  • 小心处理：积极帮助用户评估和缓解其在线讨论中的紧张情绪

    通过设计算法工具来提高用户对话中紧张氛围的意识并引导其积极回应，我们提出了一种不同于传统平台依靠管理员干预的方法。通过用户实验，我们发现这种积极主动的用户中心模式受到用户的欢迎，并可能在未来得到广泛应用。

    Dec, 2022

  • 像教练，像机器人？算法内容审查中的偏见传承

    通过在不同的人口子集上进行注释的文本上训练分类器来衡量算法内容调节系统的规范偏见。

    Jul, 2017

  • 发布前删除推文的检测与推理

    本篇研究旨在识别被删除的推文，确定其对应的细分类别以及开发模型以预测推文被删除的可能性及其背后的原因，帮助在推文发出之前进行社交媒体帖子审查。

    May, 2023

  • 在线讨论的主动审查：现有实践和算法支持的潜力

    为了解决恶劣的行为问题，本文研究了一种基于先发制人的维基百科谈话页面上的主动型防范模型，并探讨了自动化技术在此模型中的作用。通过与管理员的访谈及设计成分的综合分析，发现管理员已经采取了一些预防性的行为。作者建立了一个原型工具，并通过向管理员提供帮助，探索了自动化如何助力主动型防范工作流程。结果向我们展示了原型工具的优点和缺点以及进一步开发此支持技术的具体步骤。

    Nov, 2022

  • 基于机器反馈的强化学习器改写不当论证的 LLM

    通过基于强化学习的重写方法，平衡内容保留和恰当性，该研究通过评估不同的奖励函数权重方案，证明可以在很大程度上改善争论的不适当性，而且胜过其他竞争对手基线模型。

    Jun, 2024

  • Twitter 上的攻击性语言检测

    本篇报告探讨了社交媒体中侮辱性语言的检测是其中的关键挑战之一，研究者已经提出了许多先进的方法来完成这项任务，在此基础上，作者结合自己的想法，成功实现了 74% 的侮辱性 tweet 分类准确率，并列举了社交媒体世界中即将出现的滥用内容检测挑战。

    Sep, 2022

  • 多语言模型在社交媒体上识别冒犯性语言的表现

    本研究旨在使用多种算法测试识别冒犯帖子的能力，并评估其对多种评估方法的性能，以减少这些语言对人工审核者的伤害。通过实验，本项目能够激发对识别方法和内容的未来研究。

    Dec, 2023

  • 探索发布时的轻量级干预措施，以减少社交媒体上的虚假信息传播

    本文研究了轻量级干预措施，以引导社交媒体用户在分享内容时考虑其准确性，开发了一个新闻索引可用于组织分享的详细原因，并对三种行为干预措施进行评估，以帮助用户评估分享的准确性，结果表明这些措施都有助于减少虚假内容的分享。

    Jan, 2021

  • 基于深度学习的推文中的恶意语言检测

    该论文提出了一种在社交媒体上识别仇恨内容的检测方案，并使用带有用户相关信息的各种特征以及来自文本内容的词频向量输入到一组循环神经网络分类器中，经实验证明该方法的有效性不仅可以成功区分仇恨言论和正常文本，而且分类的准确性也高于现有的最先进算法。

    Jan, 2018