Jul, 2017

像教练，像机器人？算法内容审查中的偏见传承

PDF
TL;DR通过在不同的人口子集上进行注释的文本上训练分类器来衡量算法内容调节系统的规范偏见。
internetautomated content moderationmachine learning classifiersnormative biasesalgorithmic moderation systems
发现论文，激发创造
  • 谁来保护版主？众包图像审核案例分析

    本文研究通过模糊图片，减少内容审核员将受精神和情感损伤的私人数据泄露给他们。

    Apr, 2018

  • 社交媒体内容算法化审核中被忽视的意图角色

    通过考察自动检测和审查系统的最新发展以及训练数据集的成熟度，探讨了作者意图对于内容审查系统的重要性，并提出了改善自动检测和审查系统以符合道德和政策观念的策略性变革。

    May, 2024

  • 内容审查中的算法任意性

    机器学习在在线内容管理中广泛使用，但其引入了预测多样性等挑战，该研究旨在分析” 预测多样性 “如何影响内容管理工具的分类结果、社会群体的不平等影响以及与人工分类的对比，结果表明算法扩展的内容管理存在着过度管理人权的风险，为了减轻这些风险，需要通过增加透明度来识别和监管内容管理的任意性。

    Feb, 2024

  • 在线毒性检测的机器学习套件

    本文使用数据科学的现代工具将原始文本转化成关键特征，并使用阈值法或学习算法对其进行分类以监控具有攻击性的网络对话，通过系统评估 62 个分类器，从 19 个主要算法组中抽取特征并分析其准确性及相对执行时间。在语法、情感、情绪以及离群字典的 28 个特征中，一个简单的脏词列表被证明是最有预测性的评价有攻击性评论的方法，其中基于树的算法提供最透明易懂的规则，并排列特征的预测贡献。

    Oct, 2018

  • 攻击性言论分类器的替代性攻击和噪声审计

    该论文从自动化方法和人工评估者两个重要角度研究社交网络内容管理，通过使用九个机器认证器在 92 百万条讨论美国政治议题的 YouTube 评论语料库上进行无声审核，介绍了一份独特的代理违法数据集，研究表明，社交媒体内容的管理具有高度主观性，并引发了关于内容管理实践的重要问题。

    Jan, 2023

  • 在线讨论的主动审查：现有实践和算法支持的潜力

    为了解决恶劣的行为问题，本文研究了一种基于先发制人的维基百科谈话页面上的主动型防范模型，并探讨了自动化技术在此模型中的作用。通过与管理员的访谈及设计成分的综合分析，发现管理员已经采取了一些预防性的行为。作者建立了一个原型工具，并通过向管理员提供帮助，探索了自动化如何助力主动型防范工作流程。结果向我们展示了原型工具的优点和缺点以及进一步开发此支持技术的具体步骤。

    Nov, 2022

  • 语言变化对自动化评论审核的影响

    本文研究在线仇恨在新闻评论中的传播情况，提出了使用机器学习和自然语言处理实现半自动恶意语言检测的方法，并通过德国报纸评论数据集的测试发现，传统机器学习技术对于动态语言环境下的检测效果不佳，需要考虑时序动态性以避免使用不具实用价值的模型。

    Jul, 2022

  • 针对政策的仇恨言论测试

    本研究通过对 AI 系统与基于规则需求的深度神经网络的行为进行案例研究，对内容审核软件进行测试，发现当前具有高失败率的现有模型，进一步提出了一种自动化方法通过精调 OpenAI 的大型语言模型来增强 HateModerate 数据集。

    Jul, 2023

  • 多语言内容管理：Reddit 案例研究

    该研究介绍了一个多语言 Reddit 评论数据集，并通过对该数据集的实验分析，阐述了内容管理的挑战和相关研究问题，为自动内容管理的挑战和机遇做准备。

    Feb, 2023

  • 全球声音的和谐：文化感知模型对增强内容审查的贡献

    大规模内容审核面临着在评估内容时考虑本地文化差异的挑战。该研究探讨了如何通过适应本地理解细微差别来解决这个问题，培训大型语言模型以捕捉跨地理区域的交流细节，并在关于何为冒犯内容的文化和社会变化时提供解释。研究发现，基于广泛的媒体数据集进行培训成功地培养了文化意识，并在区域基础上改善了处理内容违规行为的能力，表明灵活的内容审核方法在跟上内容不断演变的本质方面发挥了关键作用。

    Dec, 2023