Jun, 2023

基于深度学习的视频性骚扰早期识别

PDF
TL;DR针对当前性骚扰、性虐待和性暴力普遍存在的问题，本文通过分析电影镜头中相关的图像特征，将这三个概念进行了分类。研究发现，被害人和施害人的面部表情以及不必要的接触是识别性骚扰、性虐待和性暴力场景的关键因素。此外，研究发现目前已有的显式内容检测器未能识别和分类这类图像，为此本研究开发了适用于深度学习计算机视觉模型训练的数据集。该数据集是基于来自印度电影场景的首个数据集，其可公开用于研究和开发。
sexual harassmentsexual abusesexual violencefacial expressiondeep-learning
发现论文，激发创造
  • SafeCity：理解各种形式的性骚扰个人故事

    本文介绍利用 SafeCity 上分享的个人故事，使用 CNN-RNN 模型实现对性骚扰各类表述（包括捏、盯、评论等形式）进行分类和分析。同时，介绍使用可解释性技术（如 LIME、热力图、激活聚类和嵌入可视化等）来理解模型预测的特征，以帮助自动填写事故报告、识别危险地点并避免危险行为。

    Sep, 2018

  • 基于注意力机制的在线骚扰语言分类方法

    该研究基于复杂的注意力机制与反向翻译技术，使用递归神经网络对 Twitter 上不同类型的网络骚扰进行了自动化识别，并与使用递归神经网络的其他方法进行了比较。

    Sep, 2019

  • Uli 数据集：基于经验驱动的 oGBV 注释练习

    在线性别暴力与互联网和社交媒体的采用同时增长。它在全球多数国家尤其严重，因为许多用户使用的社交媒体语言不是英语。由于互联网上对话的规模和数量，需要自动检测仇恨言论，尤其是性别虐待。然而，目前缺乏特定语言和语境数据来构建这样的自动化工具。本文介绍了一个关于三种语言 (印地语、泰米尔语和印度英语) 中性别虐待的数据集。该数据集包括在南亚的自称是妇女或 LGBTQIA 群体成员的专家标注的推文，涉及到性别虐待的经历的三个问题。通过这个数据集，我们展示了一种参与性的方法来创建推动 AI 系统的数据集。

    Nov, 2023

  • 一种用于滥用检测的统一深度学习架构

    此研究使用深度学习技术基于 Twitter 数据，对社交媒体中的仇恨言论、辱骂言论、性别歧视、种族主义与欺凌行为开展综合研究，并提出了一种基于元数据和文本的检测方法，效果优于现有的检测方法。

    Feb, 2018

  • 打破沉默：检测和减少印度在线空间中的性别虐待（印地语、泰米尔语和印度英语）

    在线性别基础骚扰是限制女性和边缘性别在数字空间中自由表达和参与的普遍问题。检测此类滥用内容可以使平台遏制这一威胁。我们参加了 ICON2023 举办的 Indic 语言中的性别虐待检测任务，该任务为构建分类器以识别带有性别偏见的滥用提供了英语、印地语和泰米尔语的注释 Twitter 帖子的数据集。我们的团队 CNLP-NITS-PP 开发了结合 CNN 和 BiLSTM 网络的集成方法，可以有效地建模文本数据中的语义和顺序模式。CNN 通过其应用于嵌入式输入文本的卷积滤波器捕捉到暴力语言的局部特征。为了确定基于上下文的冒犯性，BiLSTM 分析这个序列中单词和短语之间的依赖关系。我们为每种语言数据集训练了使用 FastText 和 GloVe 词嵌入的多种变体，其中包括超过 7600 个众包注释，涵盖了明确的滥用、针对少数群体的攻击和一般违规事项的标签。验证分数显示出强大的性能，特别是对于英语为 0.84。我们的实验证明了如何通过自定义嵌入和模型超参数来提高检测能力。该提议的架构在比赛中排名第一，证明其处理具有代码切换的现实世界嘈杂文本的能力。随着平台力图应对面临 Indic 语言互联网用户的网络骚扰，这种技术有着广阔的前景。我们的代码位于此 https URL。

    Apr, 2024

  • 暴力检测技术概述：当前挑战和未来方向

    本篇研究概述了深度序列学习方法及其用于暴力检测的本土化策略，对初始图像处理和基于机器学习的暴力检测进行了分析，详细描述了现有模型的优缺点并提出未来方向。

    Sep, 2022

  • 在线虐待内容检测中的道德设计

    该研究在 NLP 领域探讨了如何构建一个统一的框架，用于解决识别恶意内容（包括仇恨言论，毒性评论，网络欺凌等）的问题，并强调了伦理问题的重要性。提出了一个基于 “设计伦理” 的新框架，通过两个步骤来区分个人信息相对的非个人信息、在每个类别中进行比较注释以确定滥用程度。

    Oct, 2020

  • 利用现有数据解决少样本辱骂内容检测问题

    本文提出了一种两步法的方法，使用现有的包含多种任务相关的虐待性语言检测数据集进行多任务学习，再进行少量的适应性训练以针对新的标签集或语言。实验结果表明这种方法可以提高模型的性能，并且可以在不同语言中实现跨语言识别。

    May, 2023

  • 異質環境下的辱罵語言檢測：數據集收集與監督注意力的作用

    本文提出了一种注重异质性的辱骂评论的检测算法，使用带监督的注意机制和多任务学习来提高性能，并在一个包含 11000 条评论的 YouTube 数据集上进行了实验比较。

    May, 2021

  • 创建图像和文本混合数据集以研究辱骂语言

    使用 CREENDER 开发了一个注释工具，用于创建图像和滥用评论的多模态数据集，该数据集在不同角度被分析，发现图像中是否存在人会增加触发攻击性评论的概率。

    May, 2020