针对当前性骚扰、性虐待和性暴力普遍存在的问题，本文通过分析电影镜头中相关的图像特征，将这三个概念进行了分类。研究发现，被害人和施害人的面部表情以及不必要的接触是识别性骚扰、性虐待和性暴力场景的关键因素。此外，研究发现目前已有的显式内容检测器未能识别和分类这类图像，为此本研究开发了适用于深度学习计算机视觉模型训练的数据集。该数据集是基于来自印度电影场景的首个数据集，其可公开用于研究和开发。

Jun, 2023

该研究基于复杂的注意力机制与反向翻译技术，使用递归神经网络对 Twitter 上不同类型的网络骚扰进行了自动化识别，并与使用递归神经网络的其他方法进行了比较。

Sep, 2019

利用数据科学和机器学习技术，我们建立了一个聊天机器人来帮助性骚扰事件的受害者，并增加骚扰事件的记录，取得了较高的成功率，并初步证明了该机器人的巨大潜力。

Sep, 2019

本文讨论了我们在 SemEval-2023 任务 10 中应用的方法：实现在线性别歧视的可解释检测。我们进行了三个分类任务以预测文本是否具有性别歧视，将性别歧视文本分类为子类以提供其他解释。我们尝试了许多不同类型的模型，包括 GloVe 嵌入作为基线方法，基于 transformer 的深度学习模型如 BERT，RoBERTa 和 DeBERTa，集成模型和模型混合。我们探索了各种数据清理和增强方法以提高模型性能。预训练 transformer 模型在性能上产生了显着的改进，而集成和混合略微提高了 F1 的稳健性。

May, 2023

本文首次报道了人权活动家和机器学习家之间的合作，利用众包研究了 Twitter 上针对女性的在线虐待。通过分析来承认滥用感知的变异性，为其释放给社区研究工作做好准备。在社会影响方面，这项研究为旨在提高公众和决策者意识以及提高社交媒体公司期望标准的媒体活动提供了技术支持。

Jan, 2019

本文介绍一种基于神经网络的多标签性别歧视分类方法，利用包括 BERT 在内的模型获得的句子表示，结合分布式和语言学词嵌入，采用灵活的层次结构，进一步利用未标记的性别歧视账户来注入领域特定元素。该方法在多个深度学习和传统机器学习基线中表现最佳。

Oct, 2019

本文旨在解决自然语言处理中所谓的 “安全文本” 的问题，并创建了 SafeText 基准数据集，用于研究模型的常识物理安全性，并发现即使最先进的大型语言模型也容易生成不安全的文本并难以拒绝不安全建议。因此，我们建议在模型发布之前进一步研究安全性和常识物理安全性的评估。

Oct, 2022

该研究在 NLP 领域探讨了如何构建一个统一的框架，用于解决识别恶意内容（包括仇恨言论，毒性评论，网络欺凌等）的问题，并强调了伦理问题的重要性。提出了一个基于 “设计伦理” 的新框架，通过两个步骤来区分个人信息相对的非个人信息、在每个类别中进行比较注释以确定滥用程度。

Oct, 2020

本文提出一种基于深度学习和注意力机制的性别歧视检测模型，该模型使用 GloVe 或随机词嵌入，并应用于一组更加有针对性的和多样化的数据集，以获得 0.88 的 F1 分数，以区分更加微妙和难以检测的工作场所性别歧视言论。

Jul, 2020

针对社交媒体中滥用语言的检测问题，我们提出了一种两步分类的方法，并将其与一步多分类检测性别主义和种族主义语言的方法进行了比较。在英语 Twitter 语料库上的实验结果表明，我们的方法比使用逻辑回归的两步法和使用 HybridCNN 的一步法分别提高了 0.827 和 0.824 的 F-measure 性能指标。

Jun, 2017