bias | BriefGPT - AI 论文速递

关键词bias

搜索结果 - 430

文本图像生成模型的质量、偏差和性能分析
通过 qualitatively 评估精确生成人脸、群体和指定数量对象的图片，我们不仅检查了多个文本到图像模型的性能，还进行了社会偏见分析。我们发现，容量更大的模型生成的图片质量更高，但同时这些模型也存在固有的性别或社会偏见，从而更全面地了
PDF4 days ago
多模态人工智能中的公平性与偏见：一项调研
人工智能系统中解决公平性和偏差的重要性不可低估。本文填补了大型多模态模型在公平性和偏差研究方面相对于大型语言模型的缺口，提供了 50 个数据集和模型的示例以及影响它们的挑战；我们除了文献中已知的内在偏差和外在偏差两种方式外，还确定了一种新的
PDF5 days ago
FrenchToxicityPrompts：法文文本中评估和缓解有害性的大型基准
我们创建并发布了 FrenchToxicityPrompts 数据集，评估了 14 种不同的大型语言模型对于 50K 个自然发生的法语提示及其延续的潜在有害性，并希望这一贡献能促进对除英语以外语言的有害性检测和缓解的未来研究。
PDF7 days ago
大型语言模型是怀疑论者：输入冲突妄想的假阴性问题
为了解决语言模型生成与输入上下文不一致的响应的偏见问题，本文揭示了一类新的偏见，即输入 - 冲突幻觉。通过实验证明，语言模型在评估语句的正确性时，更偏向于返回虚假的负面判断，表现出更强的过度自信，并研究了上下文和查询重写对于解决偏见问题的有
PDF12 days ago
通过遗忘减缓语言模型中的社会偏见
通过研究两种取消学习方法，本文在减少社会偏见时通过定量和定性分析实证表明，基于任务向量的否定方法在保持性能和困惑度较低的情况下优于分区对比梯度取消学习方法。在 LLaMA-27B 上，通过任务向量的否定方法将偏见分数降低了 11.8%。
PDF13 days ago
大型语言模型的偏见源于其规模
通过探索大型语言模型 (LLMs) 的设计，本文主要讨论偏见与 LLMs 之间的关系，并试图让读者相信有害偏见是目前 LLMs 设计不可避免的结果，因此要解决有害偏见问题，需要对以 LLMs 为驱动的人工智能进行严肃的重新考虑，回到其设计所
PDF13 days ago
语言模型网络中的问题解决
本研究将多智能体辩论的概念扩展到更一般的网络拓扑结构，衡量了问题回答的准确性、影响力、共识以及偏见对集体的影响。结果表明，随机网络与全连接网络效果相似，但使用的令牌数量显著较少。此外，智能体之间存在平衡，自我反思在局部互动出错时有助于解答正
PDF14 days ago
QueerBench：度量语言模型对酷儿身份的歧视
通过使用我们的新评估框架 QueerBench，本文评估了英语大语言模型（LLMs）生成的句子完成对 LGBTQIA + 个体可能造成的潜在危害，并表明大型语言模型在对 LGBTQIA + 社群中的个体表现出更频繁的歧视行为，使得 Quee
PDF14 days ago
文本嵌入模型中的偏差
这篇论文研究了文本嵌入模型的偏见程度，特别是在性别维度上。分析表明，文本嵌入模型容易出现性别偏见，但表现方式各异。虽然有一些模型之间的共性，例如把护士、家庭主妇和社交女士等职业更多地与女性身份相关联，而把 CEO、经理和老板等职业更多地与男
PDF15 days ago
全球数据限制：大型语言模型中的道德与效果挑战
本文研究了大规模语言模型（LLM）获取高质量训练数据所面临的多方面挑战，包括数据稀缺、偏差以及低质量内容，并通过使用 GPT-4 和 GPT-4o 进行一系列评估，证明这些数据限制对模型性能和伦理对齐的不利影响。我们提出并验证了一些旨在提高
PDF15 days ago
LLM 风险与 AI 防护栏的现状
大型语言模型 (LLMs) 的部署与安全性及可靠性密切相关，然而它们在引入的同时也伴随着固有的风险，包括偏见、潜在的不安全行为、数据集污染、不可解释性、幻觉和非可重复性，为了避免潜在的危害，本研究探讨了部署 LLMs 所面临的风险，并评估了
PDF16 days ago
集体宪政 AI：将语言模型与公众输入对齐
使用 Collective Constitutional AI 方法，通过公众参与培训和评估，创建了第一个经集体数据微调的语言模型，与基线模型相比，在九个社会维度上展现出更低的偏见，同时在语言、数学和有益 - 无害评估上表现相当的性能。
PDF20 days ago
LLMs 对抑郁预测的数量和质量性别公平性研究
最近的研究表明，许多机器学习模型在抑郁症检测方面存在偏见，但是对于此任务中 LLMs 的偏见尚未被探索。本文首次尝试使用定量和定性方法研究现有 LLMs（ChatGPT，LLaMA 2 和 Bard）中存在的性别偏见程度。通过我们的定量评估
PDF20 days ago
HateDebias: 关于仇恨言论去偏见的多样性与可变性
社交媒体上的仇恨言论普遍存在且亟需控制，本研究提出了一个名为 HateDebias 的基准测试，旨在分析在不断变化的环境下仇恨言论检测模型的能力，通过收集不同类型偏见的现有数据集，并重新组织数据集以适应连续学习的设置，评估在单一类型偏见数据
PDF25 days ago
西方、受教育、工业化、富裕和民主的社交计算研究程度如何？
社交计算、偏见、WEIRD 人口、数据集来源、研究包容性。
PDFa month ago
ICML交叉不公平发现
AI 系统在特定人群中产生不公平结果，需要理解特定敏感属性上的偏见。本文通过发现交叉敏感属性下多样化的高偏见子群体，提出了一种基于偏见引导的生成网络（BGGN）。通过将每个偏见值视为奖励，BGGN 可以高效地生成高偏见的交叉敏感属性。实验证
PDFa month ago
机器人走进酒吧：语言模型是否可以作为创意支持工具用于喜剧？对 LLM 的幽默吻合度与喜剧演员的评估
我们采访了二十位职业喜剧演员，他们在爱丁堡艺术节上进行的「AI x 喜剧」三小时工作坊中使用人工智能作为艺术创作的一部分，并进行了在线调查。结果显示使用大型语言模型进行喜剧创作并未成功，与此同时，参与者也提出了关于偏见和审查等伦理问题。本研
PDFa month ago
UniBias：通过内部注意力和 FFN 调整揭示和减轻 LLM 的偏见
通过研究语言模型中前馈神经网络和注意力头的作用，我们识别出导致偏见的组件，并提出了一种名为 UniBias 的仅用于推理的方法，该方法能够有效地识别和消除偏见的前馈神经网络向量和注意力头，大量实验验证了 UniBias 显著提高了模型的性能
PDFa month ago
跨学科专长推动公正可解释人工智能
人工智能对于健康和医疗领域产生了显著影响，但在面对受到结构性压迫的人群中仍存在偏见和性能问题。本文提出了可解释人工智能（XAI）的框架，通过跨学科专家组进行评估，旨在改进模型解释、减少偏见，并为未来研究指明方向。
PDFa month ago
大型语言模型是否具有变色龙特性？
大型语言模型（LLMs）是否具有其自己的世界观和个性倾向？对 LLM 模型回答主观问题的模拟进行了 100 多万次，将其回答与欧洲社会调查（ESS）的真实数据进行比较，结果表明问题引导对偏见和变异的影响是基本的，突出了主要的文化、年龄和性别
PDFa month ago