human biases | BriefGPT - AI 论文速递

关键词human biases

搜索结果 - 11

随机有多随机？评估 LLMs 硬币翻转的随机性和人类性
LLMs 在生成二进制随机序列的背景下，探索了它们对随机性的态度、存在的问题及其如何失败，发现 GPT 4 和 Llama 3 在几乎所有测试中表现出和加剧人类偏见，而 GPT 3.5 则展现出更多的随机行为，这种随机性与人类行为二分的特征
PDFa month ago
神经网络中的维度抽象的关系归纳偏好
研究关系瓶颈对因式表示学习和处理灵活性的影响，并证明该瓶颈不仅改善了泛化和学习效率，而且与人类行为偏差相一致，从而促进了抽象表示的产生，使处理灵活性类似于符号。
PDF4 months ago
大型语言模型中的 (非) 理性和认知偏差
大型语言模型在合理推理中显示出人类的偏见和不合理行为，但这种不合理行为与人类不同，且存在额外的回答不一致性。
PDF5 months ago
推进法律推理：将人工智能应用于全球司法中的复杂和偏见，通过半自动化仲裁流程（SAAPs）
该研究通过使用先进语言模型和人工智能等新技术，探讨了法院判决分析、人类偏见识别和半自动仲裁过程等领域，并介绍了一种利用人工智能和人类协同分析的混合系统，旨在确保法律判决的一致应用和公正性。
PDF5 months ago
人类与语言模型中演绎推理的系统比较
语言模型在逻辑推理中能够模仿人类偏见，并在某些情况下克服它们。
PDF8 months ago
ACLT2IAT：衡量文本到图像生成的情感色彩和模式偏见
本研究在探讨文本转图像生成模型领域的人类偏见及刻板印象问题，并为此提出了一种基于社会心理学中的隐性联系测验（Implicit Association Test）的文本到图像联系测试框架（Text-to-Image Association T
PDFa year ago
ICLR假设人类有偏见，学习与人类的零射合作
本研究针对多智能体强化学习在与人合作零 - shot 学习过程中的十分关键的限制，并提出了一种更通用的 Hidden-Utility Self-Play (HSP) 方法，该方法显式地模拟人类的偏好作为自我博弈的隐藏奖励函数。通过评估 Ov
PDFa year ago
分析多种语言 BERT 变体中存在的社会偏见
本研究探讨了预训练语言模型在不同语言中所存在的偏见，提出了一种基于句子假设度量的模板方法来检测偏见，通过该方法分析了每个单语模型。研究发现，检测偏见的方法高度依赖于语言和文化，需要对每种语言和文化的独特表达方式进行深入了解。而与此相关的，我
PDF2 years ago
AI 人格化：评估语言模型的人格特质
研究表明，大规模语言模型虽然可以输出流畅的文本，但它们也捕捉到人类偏见。本文研究了面向开放式文本生成的几种大规模语言模型的人格特征和训练集，使用问卷设计了人格评估，并用零 - shot 分类器将文本回答分类到可量化的特征中，研究了可以改变这
PDF2 years ago
ICML学习人类偏好以便推理奖励的可行性探讨
我们提出一种基于不可微分计划器的逆强化学习，用于推断从专家提供的演示中学习奖励函数，并与采用特定假设的数学模型相比，我们的方法可以得到更好的奖励推断，同时保持在数据驱动方法和已知人类偏差之间的平衡。
PDF5 years ago
公正胜于轰动：男性对医生的称呼与女性对医生的称呼相同
本文旨在探讨如何使用类比法检测自然语言嵌入的偏见问题，并分析类比法存在的固有问题，同时提出其他更合适的偏见检测方法。同时，本文指出类比法在检测偏见方面的局限性，以及其贡献和局限性。
PDF5 years ago