social bias | BriefGPT - AI 论文速递

关键词social bias

搜索结果 - 37

关于言语自我监督模型的社会偏见
自监督学习（SSL）语音模型在各种任务中取得了显著的成果，然而其偏见及对边缘群体的影响引起了重要关注。本研究揭示了普遍的 SSL 模型无意间获取了有偏见的相关性，并探究了模型架构、大小以及训练方法等因素对社会偏见传播的影响。最后，通过压缩方
PDF25 days ago
ACL直接问 LLMs：“是什么塑造了你的偏见？”：评估大型语言模型中的社会偏见
社会偏见在大型语言模型中是由各种人口统计学特征的目标的社会感知的积累所塑造的。为了全面理解大型语言模型中的这种社会偏见，必须考虑到各种身份认同之间多元观点下的社会感知。本文旨在研究各种视角的社会感知如何影响大型语言模型中社会偏见的发展。为此
PDFa month ago
由专家指导的毒性符号消除以实现无偏生成
通过使用 DESM 提供的网站，您可以在输入框中输入您的想法或问题，然后 DES 将基于这个输入提供一个自动生成的并针对您输入的文本进行适当恢复或继续的建议。
PDFa month ago
临床决策支持中 LLMs 应用的偏倚模式：一项综合研究
通过对八种流行的大型语言模型在三个临床病例描述数据集上进行严格评估和分析，我们发现这些模型在受保护群体之间存在各种不同程度的社会偏差，而大小模型并不一定比通用模型更具偏见，经过设计决策的提示方式对社会偏差也有影响，研究呼吁对在临床决策支持应
PDF2 months ago
Bipol 下的数据偏差：男性天生右派，女性的角色是跟随他们的领导
我们介绍了关于三种语言中偏见的新的大型标记数据集，并通过实验证明了在评估的 5 种语言中的 10 个数据集中都存在偏见，包括英语 GLUE/SuperGLUE 排行榜上的基准数据集。我们使用 SotA 多语言预训练模型 mT5 和 mBE
PDF3 months ago
文本到图像生成中的偏见调查：定义、评估和缓解
通过对 T2I（Text-to-Image）生成模型中的偏见进行研究调查，揭示了存在的社会偏见对少数群体的边缘化造成的影响，并指出在研究中存在的限制和未来的研究方向。
PDF3 months ago
驾驭 LLMs 朝向无偏响应：一个因果引导的去偏框架
使用因果理解指导设计提示机制的去偏置语言模型框架，能有效减少大型语言模型中的社会偏见。
PDF4 months ago
消除文本到图像扩散模型的偏见
目前的学习型文本到图像模型存在社会偏见问题，本研究提出了一种基于迭代分布对齐的方法，通过权重优化来解决社会偏见问题。
PDF4 months ago
关于完整的偏见注释
在动态环境中重新审视偏见的定义，发现新的偏见类型（如社会地位），并描述它们与文化、地区、时间和个人背景等上下文的关系。我们的框架包括关于偏见的八个假设以及每个假设的减少偏见策略，以及作为解决方案的五种方法。该框架的实现尚未完成。
PDF4 months ago
指示微调语言模型是否能够通过提示识别社会偏见？
评估指令微调语言模型通过零样本提示，包括思维链（CoT）提示，识别偏见的能力，其中 Alpaca 7B 在偏见识别任务中具有 56.7％的准确性，同时展示了 LLM 规模和数据多样性的扩大可能会进一步提高性能。
PDFa year ago
ACL童话故事是否公平？分析儿童童话故事中阶段性叙事事件的性别偏见
通过提出新的计算机化分析框架，整合了自然语言处理和故事的事件叙述结构进行分析，以揭示童话中存在的社会性别偏见。
PDFa year ago
揭示与量化代码生成中的社交偏见
研究了预训练代码生成模型中的社交偏见问题，提出了一种新的方法来构建代码提示，以量化生成代码中的社交偏见严重程度并找出不同人口群体之间的细微差异，并分析得出低社交偏见的代码生成模型选择的有用见解。
PDFa year ago
候选筛选背景下的大型语言模型偏置检测
本研究旨在识别和量化 ChatGPT 和其他 OpenAI 大型语言模型在候选人筛选中存在的社会偏差，以展示这些模型的使用可能会延续现有的偏见和不公平现象，从而提出应对方法
PDFa year ago
语言模型并不总是说他们想的：链状思维提示中的不忠实解释
本研究发现 Large Language Models 的 Chain-of-Thought Reasoning （思维的串联过程）能够提供合理的解释，但有时会受到输入偏见的影响而误导我们对模型预测的真实原因的认识，这可能导致人们过度信任
PDFa year ago
数据集多样性问题：不可靠数据如何影响预测
介绍了一种名为 “数据集多样性” 的框架，用于研究训练数据集中的不准确性、不确定性和社会偏见如何影响测试时间的预测，以及该框架在机器学习实践和研究中的考虑。
PDFa year ago
Bipol: 一种新型的 NLP 多轴偏见评估指标和可解释性
引入了 bipol，这是一种具有可解释性的新度量，用于评估文本数据中的社会偏见。通过评估两个受敏感术语频率和模型分类影响的过程，我们使用 SotA 架构创建了新模型来检测多个方面的偏见，并评估了两个流行的 NLP 数据集 (COPA 和 S
PDFa year ago
基于重要性采样的互信息最小化实现文本生成公平性
为改善 PLM 在文本生成中的社会偏见，本文提出通过最小化生成文本中的语义与社会偏好之间的互信息，使文本生成中的人口群体提及与其在文本中的描述独立，缓解社会偏见，并通过重要性采样有效估计互信息的上界，最后通过精馏机制将消除偏差后的 PLM
PDFa year ago
AutoBiasTest：语言模型中可控的句子生成用于自动和开放式的社会偏见测试
本研究提出了一种名为 AutoBiasTest 的新方法，可自动生成句子以测试预训练语言模型中的社会偏见，从而提供了一种灵活且低成本的替代方案，通过使用另一个 PLM 进行生成并在社交群体和属性术语的限制下控制句子的生成。我们展示了生成的句
PDFa year ago
在没有民族信息的情况下进行 NLP 模型去偏见化
本研究提出了一种去偏见的方法，利用辅助模型检测出具有偏见的数据样本并在训练过程中进行下权重处理，从而实现在没有昂贵的人口统计学注释过程的情况下缓解社会偏见。
PDF2 years ago
可以利用跨领域数据少量标记吗？少样本指导的主动学习和迁移学习
本文提出了一种新的主动转移学习方法，使用预先训练的语言模型的内在语言知识来促进从现有预标记数据集到无标记目标数据的信息转移，可用于社交媒体数据的毒性和社会偏见的自定义维度。
PDF2 years ago