societal bias | BriefGPT - AI 论文速递

关键词societal bias

搜索结果 - 7

大规模语言模型中的偏见检测: Fine-tuned KcBERT
该论文研究了大型语言模型对社会性偏见的影响，特别是在韩语环境中，通过平衡数据分布和应用去偏的正则化方法，减少种族、性别以及种族偏见。
PDF4 months ago
通过激活转向技术研究 Llama 2 Chat 中的偏见表达
大型语言模型中存在的社会偏见，尤其是与性别、种族和宗教有关的偏见，通过激活导向法得以探测和缓解，而强化学习反馈似乎会增加模型对不同形式社会偏见的相似度，这对于提供红队（进攻方）策略以及整合拒绝向量的重要性提供了有价值的见解。
PDF5 months ago
CVPR未经筛选的图像 - 文本数据集：揭示人口特征偏见
我们研究了在视觉和语言模型训练中使用大型未筛选数据集的不公平表现，以及如何应对这个问题，研究发现社会偏见在图像生成、图像描述和图像文本嵌入等视觉语言任务中都是一个持续而普遍的问题。
PDFa year ago
贫困的罪行
本文利用自然语言处理技术，测量了八个不同英语国家中的犯罪与贫困之间的关联，量化了犯罪 - 贫困偏见的水平，结果表明地域上的差异可能受文化因素影响。这些结果对政策制定和批准扶贫政策以及重建受影响个体的尊严具有深远影响。
PDFa year ago
ACL深入探讨填词偏见社会倾向度量
本研究针对语言模型中的社会偏见问题，探讨使用词填充提示来评估语言模型行为的两种方法的有效性，发现当构建适当的控制组样本时，这些方法产生意外和不合逻辑的结果，因此应该重新考虑使用它们。我们提出了一种改进的测试协议，并介绍了一个斯洛伐克的性别偏
PDFa year ago
参数高效的 Diff 剪枝用于偏差缓解
介绍了一种模块化的架构，应用 DiffPruning 和对抗训练技术在保持语言模型存储效率的同时，减少预设受保护属性对推理结果的影响。
PDF2 years ago
ACL通过后验正则化减轻分布中的性别偏见放大
研究表明，基于先进的机器学习技术的自然语言处理中存在性别偏见放大问题，本文提出了基于后验正则化的偏见缓解方法，旨在降低性别偏见的放大，实验证明该方法可在保证少量性能损失的情况下，几乎完全消除了分布中的偏见放大。
PDF4 years ago