Apr, 2022

通过实例加权学习适应道德价值观的域漂移

PDF
TL;DR本研究旨在研究道德价值观和语言使用在社交媒体文本中的领域移位，检验其对道德分类任务的影响，并提出了一种神经适应框架。通过实例加权来提高跨领域分类任务的性能，研究结果表明，在 7 个社会运动中，微调后的任务获得高达 12.1％的性能改善，而使用 COVID-19 疫苗作为例子的细化研究得到了 5.26％的性能提升。
发现论文，激发创造
  • MoralBERT：社会话语中道德价值的检测

    通过精心设计的 MoralBERT 模型，结合社交媒体平台的标注道德数据，探索了道德预测及领域适应技术在理解有争议的社会议题上的应用，结果表明在领域内的预测模型明显优于传统模型，但领域外的泛化仍需进一步探索。

    Mar, 2024

  • 多领域道德学习数据融合框架

    本文提出了使用领域对抗式训练和加权损失函数训练多个异构数据集的方法，成功地提高了语言模型在道德推断方面的性能和泛化能力。

    Apr, 2023

  • 基于文本推断道德情感变化

    我们提出了基于文本的框架，通过纵向语料库研究公众道德情感变化。我们的方法建立在语言使用可以反映人们对对与错的道德观念之上，并通过探索从时间序列的词嵌入中学习到的道德偏见来构建我们的方法论。我们的研究为应用自然语言处理技术对社会中的道德情感变化进行表征提供了机会。

    Jan, 2020

  • 语言模型对道德的理解？走向鲁棒的道德内容检测

    使用大规模语言模型和自然语言推理模型训练获得的抽象概念和常识知识，我们研发了多领域道德价值检测的多功能和强大方法，其中采用 GPT 3.5 模型作为基于零样本的无监督多标签道德价值分类器，消除了对标记数据的显式训练需求。与较小的基于自然语言推理的零样本模型相比，结果显示自然语言推理方法在性能上与 Davinci 模型不相上下。此外，我们对在不同领域训练监督模型以探索其在处理来自不同源的数据时的效果，并将其与无监督方法进行比较的性能进行了详细的调查分析。推广了一种无监督道德价值检测的最新零样本模型 Davinci，并与监督模型进行了比较评估，从而突破了道德价值检测的极限，无需显式训练标记数据，并揭示了各自的优势和劣势。

    Jun, 2024

  • 获取背景知识以提高道德价值预测能力

    本文中，我们提出了一个新的方法，结合基本的文本特征和外部知识库中获取的背景知识来检测推文中的道德价值表达，并在计算社会科学的领域中实现了与单个人注释员相媲美的性能。这是在预测隐含心理变量方面首次尝试使用背景知识。

    Sep, 2017

  • 模块化域适应

    本文介绍了一种模块化的领域适应过程，强调模型生成者和模型使用者可以独立合作，以便更准确地测量文本特性。通过使用两种轻量级技术，本文在使用线性和上下文嵌入模型的四个多域文本分类数据集上证明了这些技术的可靠性，以提高领域外精度，并提出了对模型生成者和使用者的建议。

    Apr, 2022

  • 使分类器能够明确地与人类价值观保持一致

    该研究介绍了一个基于明确人类价值观的价值对齐分类框架，并从大规模语言模型中提炼价值对齐知识以构建分类器，结果表明使用显式人类价值观分类器能提高人工智能的包容性和可解释性。

    Oct, 2022

  • 多域情感分析的数据选择策略

    本文介绍了一个关于在情感分析中领域适应的研究。我们对领域相似度度量进行了广泛的研究，提出了新的表示方法、度量方法和数据选择。在推文和评论的大规模多领域适应设置中，我们评估了所提出的方法，并证明了它们一致地优于强随机和平衡的基线方法，而我们的选择策略优于实例级选择，并在大型评论语料库上获得了最佳分数。

    Feb, 2017

  • 评估基于大语言模型的道德价值多元论

    利用一个名为识别价值共鸣（RVR）的 NLP 模型，将 WVS 调查的价值观与生成的 LLMs 文本进行比较，发现 LLMs 显示出西方中心主义的价值偏见，高估了非西方国家的保守性，对非西方国家的性别表达不准确，并将年长人口描绘为更具传统价值。

    Dec, 2023

  • 噪音审计改善道德基础分类

    本文提出了两种度量标准，即实例标签的熵和附注器分配给实例的标签的轮廓系数，以诊断标注噪声。在三个广泛使用的道德基础数据集上的实验表明，根据提出的度量标准删除噪声标记可以提高分类性能。

    Oct, 2022