bias identification | BriefGPT

关键词bias identification

搜索结果 - 7

FAIR Enough: 如何为大型语言模型的训练开发和评估符合 FAIR 标准的数据集？
大型语言模型（LLMs）中的进展凸显了道德实践和数据完整性的必要性。我们介绍了一个将 FAIR（可发现、可访问、可互操作、可重用）数据原则嵌入到 LLM 训练中的框架。这种方法标志着向符合 FAIR 标准的实践的转变。我们的框架提出了将 F
PDF5 months ago
EMNLP通过自然语言理解中的偏见专家来改进偏见缓解
通过引入偏见专家（bias experts），我们提出了一个新的去偏框架，改善了辅助模型的偏见识别能力，并且在各种挑战性数据集上始终优于现有技术水平。
PDF7 months ago
指示微调语言模型是否能够通过提示识别社会偏见？
评估指令微调语言模型通过零样本提示，包括思维链（CoT）提示，识别偏见的能力，其中 Alpaca 7B 在偏见识别任务中具有 56.7％的准确性，同时展示了 LLM 规模和数据多样性的扩大可能会进一步提高性能。
PDFa year ago
文本图像模型分析偏差的单词级解释
本文的研究目的是探讨文本转图像模型（T2I）如何在生成图像时通过特定的单词体现出种族和性别的偏见，作者通过遮蔽语言模型计算各单词的影响得分，实验结果表明该方法能够用于识别生成图像中的社会刻板印象。
PDFa year ago
LINGO: 视觉去偏见自然语言指令以支持任务多样性
LINGO 是一种新颖的可视化分析界面，可帮助优化自然语言任务指令以减少偏差，并提高模型性能，且经实验验证其支持创建更高语言多样性和更低指令偏差的难度更大的任务；该工具可应用于多领域的指令撰写中。
PDFa year ago
衡量和评估讲话方规整度的方法
本研究提出了一个分析讲话者分离公平性的新协议和评分方法，对性别、年龄、口音及发音时长等因素对讲话者分离结果的影响进行了大规模数据集实验，发现讲话者口音和性别会对分离结果产生偏见。
PDFa year ago
ICCV发现图像分类器的未知有偏属性
通过在生成模型的潜在空间中使用超平面来发现图像分类器的未知偏差属性，以及我们提出了一个新的变差损失函数和新的正交化惩罚作为约束条件，通过实验评估证明该方法的可行性和有效性，用于在不同领域中检测图像有偏属性的普适性。
PDF3 years ago