Feb, 2024

基于检索增强型 GPT-4 和 LLaMA 的 Bryndza 在 ClimateActivism 2024 的立场、目标和仇恨事件检测

PDF
TL;DR本研究旨在通过零 / 少样本增强和重新排名，探索了 GPT-4 等大型语言模型在 CASE 2024 共享任务中的应用，重点关注气候活动立场、仇恨言论检测、仇恨言论目标识别和立场检测等分类挑战，并与传统方法进行了实验比较，结果显示我们的模型在目标检测任务中显著优于基线模型，荣获第二名。
发现论文，激发创造
  • Z-AGI 实验室参与社交媒体上的气候行动 2024：立场和仇恨事件检测

    通过分析社交媒体上的推文，研究以气候活动家对抗仇恨言论为中心，利用经典机器学习模型对气候仇恨言论和立场进行识别和检测，以提供关于模型选择的有价值见解。

    Feb, 2024

  • 社交媒体上的立场检测与优化的大型语言模型

    本研究评估了立场检测方法的演变，从早期的机器学习方法过渡到划时代的 BERT 模型，最终到现代的大语言模型（LLMs），如 ChatGPT、LLaMa-2 和 Mistral-7B。结果强调了 LLMs 在准确检测立场方面的卓越能力，LLaMa-2 和 Mistral-7B 表现出极高的效率和潜力，值得进一步研究。

    Apr, 2024

  • 2024 年多模态仇恨言论事件检测中的 MasonPerplexity：使用 Transformer 集合进行仇恨言论和目标识别

    自动识别具有攻击性语言，例如仇恨言论，对于保持在线社区中的讨论文明至关重要。这篇论文介绍了 MasonPerplexity 在 CASE 2024 和 EACL 2024 的多模式仇恨言论事件检测共享任务上的提交。

    Feb, 2024

  • 2024 年气候行动中的 MasonPerplexity: 集成先进的集合技术和数据增强技术用于气候行动立场和仇恨事件识别

    社会媒体上识别公众舆论，尤其是关于气候行动和仇恨事件检测，已成为研究的一个关键领域。我们团队通过广泛测试各种模型和方法，发现我们最有效的结果是通过集成建模并结合后翻译等数据增强技术实现的。在此研究任务的具体组成部分中，我们团队在相应的子任务中分别排名第 5、第 1 和第 6，从而说明了我们在这一重要研究领域中的方法的有效性。

    Feb, 2024

  • HateRephrase: 在线帖子中使用大型语言模型进行零次和少次转换减少仇恨强度

    研究表明，使用大型语言模型（LLMs）在检测潜在仇恨言论并在发布前对其进行重新表述方面表现优异，进而减少其仇恨程度而不改变原始文本的语义意义。

    Oct, 2023

  • 基于自动化技术的复杂主题和小语种中的立场检测：以极化新闻媒体中的移民问题为例

    本文旨在研究大型语言模型在对于语言数据集难以获得的语言，如形态复杂、资源较少的语言中进行自动立场检测的适用性，同时探索了 ChatGPT 作为一种全零样本分类器的可行性，结果表明 ChatGPT 的性能可与有监督学习相当。最佳模型的应用还可用于研究爱沙尼亚主流新闻来源和右翼民粹主义新闻来源在七年间的历时趋势，并探讨立场变更与现实事件的对应关系，这为新闻分析和媒体监测提供了一个更为简单和省钱的文本分类任务的替代方案。

    May, 2023

  • 仇恨言论检测的生成式人工智能的评估和发现

    使用深度神经模型自动检测仇恨言论受到标记数据稀缺性的影响，从而导致泛化能力差。为了缓解这个问题，利用生成式人工智能从现有标记示例中生成大量合成仇恨言论序列，并将生成的数据应用于微调大型预训练语言模型，如 BERT、RoBERTa 和 ALBERT。我们研究了相关方法、实验设置和这种方法的评估。此外，我们使用已经适应仇恨检测的预训练语言模型（包括 RoBERTa-Toxicity、HateBERT、HateXplain、ToxDect 和 ToxiGen）在训练集上对生成的数据进行扩充，然后应用和评估其影响。经验证实，这种方法改进了对仇恨言论的泛化能力，提高了不同数据分布下的召回性能。此外，我们还使用 GPT-3.5 模型探索和比较微调后的预训练语言模型在零样本仇恨检测方面的性能。结果表明，尽管 GPT-3.5 模型的泛化效果更好，但对大多数数据集而言，其召回率中等且精确度低。目前尚不清楚是否可以使用类似的文本生成技术来改善 GPT-3.5 及后续模型的敏感性。

    Nov, 2023

  • 基于 Transformer 的大型语言模型检测反犹太主义仇恨言论

    我们研究了替代性的基于变压器的生成型 AI 技术，并开发了一种新的数据标注技术，证明了这些先进方法在应对仇恨言论检测中的比较有效性，强调在敏感环境中需要负责任和谨慎管理的 AI 应用。

    May, 2024

  • 利用人工智能打击网络仇恨：探索大型语言模型在仇恨言论检测中的挑战和机遇

    我们的研究通过综述和实证分析，揭示大型语言模型在检测恶意言论中的能力和限制，强调它们作为分类器的角色以及发现优秀的模型和他们的特点和训练方法，为理解大型语言模型在关键的恶意言论检测领域的能力做出贡献。

    Mar, 2024

  • 大型语言模型应用于实际世界仇恨言论检测的调查

    使用大型语言模型和四种不同的提示策略，发现大型语言模型能够有效地检测恶意言论并超过当前基准机器学习模型的性能，提示策略在高效利用大型语言模型的知识库方面起到关键作用。

    Jan, 2024