为了解决恶劣的行为问题，本文研究了一种基于先发制人的维基百科谈话页面上的主动型防范模型，并探讨了自动化技术在此模型中的作用。通过与管理员的访谈及设计成分的综合分析，发现管理员已经采取了一些预防性的行为。作者建立了一个原型工具，并通过向管理员提供帮助，探索了自动化如何助力主动型防范工作流程。结果向我们展示了原型工具的优点和缺点以及进一步开发此支持技术的具体步骤。

Nov, 2022

本研究旨在提出一种初始预测在线讨论是否会演变成骚扰或人身攻击的框架，该框架可以捕捉与未来在线讨论轨迹相关的优雅用语等语言特征，并在受控环境中展示了检测在线讨论的早期预警迹象的可行性。

May, 2018

本文通过一种多学科的视角，建立了对对话调节有效性的系统定义，并提出了一个综合评估框架，以在无人干预的情况下评估模型的调节能力。通过该框架进行的首个已知的对话模型作为调节员的研究发现，适当引导的模型可以对有害行为提供具体而公正的反馈，但难以影响用户提高他们的尊重和合作水平。

Nov, 2023

本研究在 Twitter 上进行随机对照试验，评估了一种新的干预方法，使发帖者有机会暂停并重新考虑他们的推文，结果发现接受干预的用户比未接受干预的用户发布的冒犯推文少 6％，该干预不仅减少了暂停后的危害推文的数量，还降低了未来的发布和回复数量。因此，让用户重新考虑评论是减少网络冒犯内容的有效机制。

Dec, 2021

本文探讨了三个阶段的算法干预方案，重点在于如何利用推荐系统来解决分裂和冲突问题，以达到更具建设性的冲突转型。实证研究表明，基于多样性的干预措施可能会在某些情况下加剧分裂。因此，本文建议将文本中的温和性度量与多样性相结合，以制定更有效的干预措施。

Jul, 2021

通过对美国新闻的礼貌性手动标注的语料库，测试 Jigsaw Perspective API 是否能够检测到不礼貌的程度，结果表明，Perspective 等模型无法很好地分析新闻中的不礼貌性，需要开发去除新闻中经常提到的词之间的虚假相关性的方法，这样才能更好地解决新闻中的不良言行问题。

Feb, 2021

该研究提出了一种预测在线讨论可能偏离主题的模型，通过对话建模来捕捉话题的动态及其可能的演变，从而在讨论真正变得混乱之前预测可能的混乱。

Sep, 2019

本研究利用大规模实验展示了如何用人工智能工具改善有争议话题的在线对话，从而提高参与者认为自己在会话中被理解的感受和对话的质量，减少政治分歧和恶意，而不改变对话内容或人们的政策态度。

Feb, 2023

通过 Reddit 网络社区的数据表明，研究者们可以使用新的会话特征和度量方法来提高在线对话的前景。通过使用新的预测模型，电子平台开发者可以优先排序更积极的对话，从而提高了对话质量和对参与者的各种积极影响力。

Feb, 2021

通过在不同的人口子集上进行注释的文本上训练分类器来衡量算法内容调节系统的规范偏见。

Jul, 2017