toxicity mitigation | BriefGPT

关键词toxicity mitigation

搜索结果 - 9

低秩微调 LLMs：公平视角
研究表明低秩逼近 Fine-Tuning 在捕捉 Fine-Tuning 数据集从初始预训练数据分布中的转变方面具有不足之处，会产生不可忽视的副作用，包括在针对有毒模型和提供公平模型的情景下意外保留不合理的偏差和有毒行为。此外，对于顺序决策
PDFa month ago
利用反事实生成减轻文本毒性
通过使用反事实生成方法以及可解释性人工智能（XAI）领域的方法来目标化和缓解文本毒性，我们提出了一种文本解毒方法，该方法能够在去除有害含义的同时保留初始非毒性含义，并且对三个数据集进行比较实证研究和评估结果表明，最近发展的 NLP 反事实生
PDF2 months ago
从一到多：扩大语言模型中毒素缓解的范围
多语言毒性缓解中的复杂性研究及其对未来研究的重要影响
PDF4 months ago
大型语言模型的细粒度排毒与实例级前缀
使用细粒度去毒化的方法通过添加正向和多个负向前缀构造细粒度的次毒性向量，从而在提供原始提示时协同去毒，进而实现对毒性文本的控制生成。
PDF4 months ago
大型语言模型的动态属性图控制文本生成
控制性文本生成旨在生成具有特定期望属性的文本。本研究中，我们介绍了一种用于大型语言模型的可插拔的控制性文本生成框架（DATG），名为动态属性图控制性文本生成。该框架利用属性评分器评估语言模型生成的句子的属性，并构建动态属性图。DATG 通过
PDF5 months ago
因果 ATE 减轻有控制的文本生成中的无意偏差
通过因果平均处理效应（因果 ATE）方法，研究语言模型中的属性控制。除去数据集中属性的虚假相关性，该方法减少了模型在推理过程中因对虚假相关变量的干扰而产生属性幻觉，并在分类任务中降低了误判的数量，从而解决了去毒化后对特定群体出现的无意识偏见
PDF7 months ago
Goodtriever: 检索增强模型的自适应毒性缓解
通过引入 Goodtriever 方法，在考虑到语言的演变性的基础上，提出了一个全面的毒性缓解视角，并在推理过程中实现 43% 的相对延迟降低，更具计算效率。该研究呼吁增加对适应性缓解技术的关注，这能更好地反映模型在实际环境中面对的数据漂移
PDF9 months ago
ACL利用移情數據緩解有毒退化：探索毒性和移情之間的關係
利用共情数据，本研究改进了最近针对生成的有毒语言的可控文本生成，发现在特定的共情交流组成部分方面，该研究的认知共情成分明显优于原始数据集，对于关于共情的 NLP 工作，这是一个特别重要的启示。
PDF2 years ago
基于 Transformer 的语言模型降低毒性的奖励建模
本文提出了一种新的基于强化学习的语言模型去毒性方法 - Reinforce-Detoxify，通过引入新的奖励机制，它能够有效地检测出有毒的内容，并减轻与社会身份相关的无意识偏见。实验表明，Reinforce-Detoxify 方法在语言模
PDF2 years ago