本论文提出了一种名为 GeDi 的方法，通过引入更小的 LM 作为生成鉴别器以指导在大型 LM 上更安全和可控的生成。GeDi 计算每个标记的分类概率，以便于实现对生成的控制，并且可以使 GPT-2 在不影响语言质量的情况下显著降低毒性，同时还能够使用较少的主题进行控制生成。

Sep, 2020

自动对抗言论生成可以帮助社交媒体上打击仇恨内容的有效方法，但生成的对抗言论只有在基于话题、受众和敏感性的背景下才能可行，因为这些因素影响其有效性和适当性。我们提出了一个基于话语理论的新框架，以研究将对抗言论与仇恨评论连接起来的推理链接。在这个框架中，我们提出了：i) 从话语框架中导出的对抗言论分类法，ii) 基于话语理论的上下文化对抗言论生成策略。为了构建和验证这个框架，我们提供了一个从 Reddit 收集实际数据集的过程。利用这个过程，我们手动注释了一个由 3.9k 个 Reddit 评论对组成的数据集，以确定其中是否存在仇恨言论和对抗言论。我们对这些对进行了注释，并提供了重新表述的对应项，以消除冒犯和第一人称参考。我们证明，通过使用我们的数据集和框架，大型语言模型可以生成基于话语理论的上下文化对抗言论。根据我们的人工评估，我们的方法可以作为应对话语不可知模型的重大故障的一种保护措施。

Nov, 2023

本文提出了一种三模块的处理方法，包括生成对抗语言的多样性解决方案，使用 BERT 模型过滤语法不正确的方法和使用新颖的基于检索的方法选择最相关的反对言论来有效防止仇恨言论的不断增加。

Jun, 2021

通过使用自我标记的群体进行有组织在线仇恨言论和反言论，研究使用集成学习算法识别有组织在线仇恨言论和反言论，发现自动化方法在评估社交媒体上协调反言论对稳定对话的影响的潜力。

Jun, 2020

用计算机科学的方法对社会科学领域中的对抗性言论研究进行系统性回顾，比较方法和结果，以填补目前在对抗性言论效用方面缺乏系统性理解的空白，从而识别出两个领域的有前途的未来方向。

Jul, 2023

利用大型语言模型生成有限制条件的反抗言论，并研究其对在线环境的影响和生成方法的语言特征。

Mar, 2024

本文介绍了一种混合方法收集在线仇恨言论和非政府组织的多轮对话数据，从而帮助训练自然语言生成模型以自动化反击网络仇恨言论。

Nov, 2022

社交媒体平台上存在大量的仇恨评论。我们提出了一种用于生成反驳仇恨评论的可控策略的方法，并通过特征控制响应生成，研究了鼓励长期解决方案的可行性。

Jan, 2024

本研究旨在有效收集应对仇恨言论的响应，利用大规模的无监督语言模型生成银标注数据，并采用最佳注释策略 / 神经网络架构来进行专家验证 / 后期编辑。

Apr, 2020

Detoxification Generator (DETOXIGEN) is an algorithm that controls the attributes of generated text, particularly avoiding toxicity, by using an ensemble of a pre-trained language model and a detoxifier trained on toxic data.

Jan, 2024