本文提出了一种基于多变量因果推断的新框架,用于消除神经网络模型在情感分析中学习不准确关联以及提高对各种输入变换的稳健性。该框架通过应用不同的因果干预方法来解决不同类型的偏见问题,并在广泛的实验中证明了其相对于其他基准方法在两个常用测试数据集上的有效性。
Mar, 2024
情感分析将情感表达在文本中进行识别,本文将情感分析分解为两个任务:区分评论是否 “引导” 情感或情感是否 “引导” 评论的因果假设,以及使用评论预测情感的传统任务。利用心理学中的峰 - 尾规则,我们通过计算整体情感得分来将样本分类为两种因果假设。对于预测任务,我们根据样本中发现的因果机制提出因果提示,以改进 LLMs 性能,从而在零样本五分类情感分析中实现了高达 32.13 F1 分的显著提升。
Apr, 2024
本文介绍了一种评估情感分析系统漏洞的新方法,通过在受保护变量上控制调节输入以测试输出的情感是否对其敏感,给 SASs 分配标签(评分),以此评估其对输入变化的强度和鲁棒性,提高公平性,尤其对于开发人员寻找有效的信息来构建更大型的 AI 系统非常有用。
Feb, 2023
本研究提出了一种名为 RVISA 的二阶段推理框架,利用 Decoder-only LLMs 的生成能力和 Encoder-Decoder LLMs 的推理能力来训练一个增强的推理器,以可靠的推理方式识别隐含情感,并在 ISA 性能方面取得了最新的研究成果。
Jul, 2024
采用超级对比预训练的方法,利用语言资源中的大规模情感注释语料库,对于产品评论中蕴含的明示和隐含情感表达进行预测,大幅提高对于细节方面表达情感的识别率,这种方法不仅在论文中实验证明了其有效性,还在 SemEval2014 基准测试集上取得了最好的表现。
Nov, 2021
该研究提出了三种不同的因果提示,研究了情感分类数据的不同性质在模型响应中引发的协议的一致性或多样性,并建议未来的研究提高对 NLP 任务中不同因果结构的认识。
May, 2023
本论文提出了一种整合了明确情感增强的 ABSA 方法,通过基于规则的数据对 T5 进行后训练,并采用句法距离加权和不合理对比正则化来生成明确情感,同时利用约束束搜索确保增强句子包含方面术语,在 ABSA 两个最流行的基准测试中,ABSA-ESA 在隐式和明确情绪准确性上优于 SOTA 基线。
Dec, 2023
本文从因果的角度探讨了深度学习模型在面对对抗性示例时的容易受到攻击的漏洞,提出了一种新的对抗性攻击防御框架 CISS,该框架采用平滑的方式在潜在的语义空间中学习因果效应,并在深层次结构的规模上实现了鲁棒性,并避免了为特定攻击定制噪声的繁琐构建。实验证明该框架能够抵御词语替代攻击,即使是强化了未知攻击算法的扰动。例如,对于 YELP,CISS 在认证鲁棒性方面超越亚军 6.7%,并在综合了语法攻击之后达到 79.4%的经验性鲁棒性。
May, 2022
本文旨在量化并减少语言模型中表现出的情感偏见,该文分析了在给定的条件下(例如写作提示)和语言模型中,引起生成的文本情感发生变化的敏感属性(例如国家名称,职业,性别)的值变化的影响。我们采用公平机器学习文献中的个体和团体公正度量来量化情感偏见,并证明在两种不同的语料库(新闻文章和维基百科)上训练的大规模模型存在相当高的偏见。我们随后提出使用嵌入和情感预测导出的正则化方法,该方法应用于语言模型的潜在表示。该正则化提高了公正度量,同时保持了可比水平的困惑度和语义相似性。
Nov, 2019
通过对最近的变形器模型应用因果干预技术分析了词义消歧问题上 “情境模型” 的表现,特别是注意头回路在隐含情境模型建立中发挥的作用及其通过不同路径对代词解析的引导方式进行比较。
Jun, 2023