EMNLPSep, 2021

BERT 是否学习人类感知？通过词汇了解语言风格

PDF
TL;DR本研究通过探究人类感知和机器词汇重要性这两个视角，研究了文本的语言风格对词汇用法的影响，通过收集人类感知数据 Hummingbird 并参考目前常用的 BERT 语言风格分类器，比较了两者对于词汇标签的不同理解。研究表明，对于某些风格，如积极情感和愉悦，人类和机器的识别结果存在显著的重叠，但机器标记某些内容词非风格相关，而人们不能通过这些词汇准确感知对应的风格。
发现论文，激发创造
  • StyLEx: 用基于词典的人类感知解释风格

    本篇研究介绍了 StyLEx，一种使用人工识别的文体词汇作为预测句子文体的附加信息的模型，它不会牺牲原始并且跨域数据集上的句子级文体预测性能，同时可以提供类似于人类感知的文体词汇解释。

    Oct, 2022

  • 跨语言风格比较

    使用解释框架从多语言语言模型中提取风格差异，比较不同语言之间的风格差异，探索礼貌在四种语言中的变化，进一步评估不同语言类别如何对风格变化做出贡献，并提供人们在全球范围内沟通差异的可解释性见解。

    Oct, 2023

  • 使用眼动跟踪、标注和语言模型进行文本风格显著性比较研究

    本文介绍了一个用于人类对文学文本 (例如礼貌) 处理的眼动数据集 eyeStyliency, 并使用各种方法推导出收集的眼动数据中的样式显着性得分，研究人员探讨了眼动数据与人类注释和基于模型的重要性评分的关系，并发现引人注目的单词添加到提示中通常会提高风格分类的准确性，其中基于眼动和注释的显着单词的准确性最高。

    Dec, 2022

  • 超越标签：揭示语音情感识别数据集中的文本依赖性

    通过检查专门数据集中的词汇重叠和机器学习模型的性能，我们揭示了特质标签中的显著文本依赖性，结果表明一些机器学习模型可能过多关注词汇特征而不是目标的语音特征，研究呼吁研究界重新评估现有数据集和方法论的可靠性，确保机器学习模型真正学到其设计的内容。

    Mar, 2024

  • 从语言行为出发的人格检测：一个 Transformer 结合了心理语言学特征文字轮廓

    本文介绍基于语言使用进行人格预测的交叉性研究，报道了用于文本数据的最全面的心理语言学特征和混合模型的两个主要改进，实验结果表明，这些模型优于同一数据集上的现有工作，并通过对心理语言学特征的不同类别进行消融实验来量化其影响。

    Apr, 2022

  • 自然语言语料库所自动生成的语义带有类似人类的偏见

    这份研究首次展示，应用标准机器学习到日常语言时会形成类似于人类的语义偏见，同时该研究还提供了用于评估文本偏见的新方法。

    Aug, 2016

  • 文本风格的词汇、句法和语义视角

    本研究提出了从词汇、句法和语义三个方面分析个体写作风格的过程，并展示该过程在作者风格分析、作者归属度和情感预测方面的应用，结果表明这种多层次的写作风格分析方法能够量化地模拟文本中的主观性，从而在多个任务上提高定量和定性表现。

    Sep, 2019

  • 通过提示 LLMs 学习可解释的风格嵌入

    本研究使用提示技术，对大量文本进行文体分析，得到了一组可解释的文体表示方法 LISA embeddings，为解决当前使用神经网络进行文体表示学习所面临的可解释性困境提供了新的解决方案。

    May, 2023

  • 利用 BERT 嵌入在聋人和听力不佳用户会话记录中建模词语重要性

    通过对两种不同类型的字嵌入与手动注释的标签化字重要性得分进行相关分析，我们发现使用 BERT 生成的归一化上下文化字嵌入与标注的重要性得分之间的相关性更好，并提供了对训练字重要性模型的可行性的概念验证。

    Jun, 2022

  • 多语言语言模型预测人类阅读行为

    本文研究利用大型语言模型来预测人类阅读行为，并比较了针对特定语言和多语言的预训练变压器模型在预测荷兰语、英语、德语和俄语文本上反映自然人类句子处理的阅读时间测量方面的表现。结果显示，变压器模型可以准确地模拟人类阅读行为，预测出了各种眼动特征，表明变压器模型可以以类似于人类处理机制的方式隐式地编码语言的相对重要性。作者还分析了这些模型的跨领域和跨语言能力，并展示了它们如何反映人类句子处理。

    Apr, 2021