Nov, 2022

在线讨论的主动审查：现有实践和算法支持的潜力

PDF
TL;DR为了解决恶劣的行为问题，本文研究了一种基于先发制人的维基百科谈话页面上的主动型防范模型，并探讨了自动化技术在此模型中的作用。通过与管理员的访谈及设计成分的综合分析，发现管理员已经采取了一些预防性的行为。作者建立了一个原型工具，并通过向管理员提供帮助，探索了自动化如何助力主动型防范工作流程。结果向我们展示了原型工具的优点和缺点以及进一步开发此支持技术的具体步骤。
发现论文，激发创造
  • 小心处理：积极帮助用户评估和缓解其在线讨论中的紧张情绪

    通过设计算法工具来提高用户对话中紧张氛围的意识并引导其积极回应，我们提出了一种不同于传统平台依靠管理员干预的方法。通过用户实验，我们发现这种积极主动的用户中心模式受到用户的欢迎，并可能在未来得到广泛应用。

    Dec, 2022

  • 像教练，像机器人？算法内容审查中的偏见传承

    通过在不同的人口子集上进行注释的文本上训练分类器来衡量算法内容调节系统的规范偏见。

    Jul, 2017

  • 在线管理的个性化干预

    该研究提出一种基于个体用户的在线管理方法，该方法融合了计算机科学、社会学和心理学等领域的前沿理论和实践，并探讨了此类革新性变革所带来的最重要挑战。

    May, 2022

  • 语言模型调节员能提升在线交流的健康性吗？

    本文通过一种多学科的视角，建立了对对话调节有效性的系统定义，并提出了一个综合评估框架，以在无人干预的情况下评估模型的调节能力。通过该框架进行的首个已知的对话模型作为调节员的研究发现，适当引导的模型可以对有害行为提供具体而公正的反馈，但难以影响用户提高他们的尊重和合作水平。

    Nov, 2023

  • 谁来保护版主？众包图像审核案例分析

    本文研究通过模糊图片，减少内容审核员将受精神和情感损伤的私人数据泄露给他们。

    Apr, 2018

  • 社交媒体内容算法化审核中被忽视的意图角色

    通过考察自动检测和审查系统的最新发展以及训练数据集的成熟度，探讨了作者意图对于内容审查系统的重要性，并提出了改善自动检测和审查系统以符合道德和政策观念的策略性变革。

    May, 2024

  • 重新考虑推特：在推文创建期间进行干预可减少冒犯内容

    本研究在 Twitter 上进行随机对照试验，评估了一种新的干预方法，使发帖者有机会暂停并重新考虑他们的推文，结果发现接受干预的用户比未接受干预的用户发布的冒犯推文少 6％，该干预不仅减少了暂停后的危害推文的数量，还降低了未来的发布和回复数量。因此，让用户重新考虑评论是减少网络冒犯内容的有效机制。

    Dec, 2021

  • 内容审查中的算法任意性

    机器学习在在线内容管理中广泛使用，但其引入了预测多样性等挑战，该研究旨在分析” 预测多样性 “如何影响内容管理工具的分类结果、社会群体的不平等影响以及与人工分类的对比，结果表明算法扩展的内容管理存在着过度管理人权的风险，为了减轻这些风险，需要通过增加透明度来识别和监管内容管理的任意性。

    Feb, 2024

  • 基于社交意识强化学习的主动型对话代理改进

    通过采用强化学习算法，研究设计基于社交和任务相关特征的行为预测策略是智能对话代理下一步的发展，以期通过优化设定的预测性对话策略，增强用户满意度和任务效率，并在实践操作中取得较好的协同效果。

    Nov, 2022

  • 多语言内容管理：Reddit 案例研究

    该研究介绍了一个多语言 Reddit 评论数据集，并通过对该数据集的实验分析，阐述了内容管理的挑战和相关研究问题，为自动内容管理的挑战和机遇做准备。

    Feb, 2023