Jun, 2024

关于大型语言模型中多智能体系统中观点动态的原则

PDF
TL;DR我们研究互动的大型语言模型（LLMs）群体内舆论的演变。我们发现这些模型的交流受到几个倾向性因素的影响，分别是追求其他模型意见的共识、在资金配置时展现谨慎和考虑伦理问题。我们还发现这些偏见受到意见改变缺乏具有说服力的理由、愿意参与讨论的程度以及资源分配的分布的影响。此外，这些偏见之间的紧张关系可能导致对具有负面含义的项目的资金支持继续存在。通过自由形成意见与从三个资源分配选项中选择意见相比，我们发现在互动后，LLM 的意见分布更加多样化，而在后一种情况下，通常会达成共识或极化。当代理人了解过去的意见时，他们会努力保持一致，并产生更多样的更新规则。我们使用 Llama 3 LLM 进行了研究。
发现论文，激发创造
  • 基于 LLM 代理的网络观点动力学模拟

    准确模拟人的观点动态对于理解各种社会现象至关重要，包括极化和误信息传播。我们提出了一种基于大型语言模型的人口多智能体模拟观点动态的新方法。我们的发现揭示出语言模型智能体存在对准确信息的固有偏差，导致在科学现实中产生共识。然而，该偏差限制了模拟对气候变化等问题持有抵制观点的个体。在通过启动工程引入确认偏见后，我们观察到观点分裂的情况与现有的多智能体研究一致。这些见解突显了在该领域中大型语言模型智能体的前景和局限，并提出了未来发展路径：通过与真实世界的话语相结合，完善语言模型，以更好地模拟人类信念的演变。

    Nov, 2023

  • 多维观点动态和观点一致性的基于代理人模型

    通过代理模型，揭示了有关多维空间中观点动态的两个特征：人们的各种政策问题的个人意见往往与主导意识形态维度（例如 “左” 与 “右”）保持一致，并且越来越极端。

    Mar, 2020

  • 语言模型反映了谁的观点？

    通过 OpinionsQA 数据集，本研究提出了一种量化框架，调查语言模型中体现的观点与美国 60 个人口群体的观点的一致性，在包括堕胎和自动化在内的话题上，我们发现当前的语言模型与 US 人口集体观点之间存在相当大的不匹配，即使是明确定向于特定人口群体也是如此。

    Mar, 2023

  • 关于记忆在稳健舆论动态中的作用

    研究了一个完全连接的系统中的意见动态，在没有记忆的情况下，考虑了包括选民模型和最佳 - k 多数规则在内的非常流行的意见动态，结果表明缺乏记忆会防止有效收敛，而使用随机意见动态快速收敛于正确的意见为信息传播过程所必需的。

    Feb, 2023

  • 从社会迹象中学习观点动态

    本文提出一种推论机制，将生成的意见动态代理模型拟合到现实世界的社交信息中，不仅保留了基于代理的模型的优点（即因果解释），而且还具有在真实数据上进行模型选择和假设测试的功能。

    Jun, 2020

  • 大型语言模型的说服力

    人工智能的替代代理人具有重要的影响力，可在线上言论中生成有效的论点，以引导公众舆论；此外，它们之间的相互作用还能够模拟人类社会系统中的说服过程，以便作为研究人群舆论动态的可信代理人。

    Dec, 2023

  • 多 LLM 之间的网络形成与动态

    我们的研究分析了标准网络结构和真实世界网络的行为，以确定多个大型语言模型在人类社交动态中是否与人类社交动态一致。我们探讨了各种社交网络原则，包括微观层面的概念（如优先连接、三元闭合和同质性），以及宏观层面的概念，如社群结构和小世界现象。我们的研究结果表明，当给定网络结构并询问 LLMs 关于网络形成的偏好时，LLMs 展现了所有这些原则。此外，我们还研究了基于真实世界网络的 LLMs 决策，以比较这些原则的优势。我们的结果表明，三元闭合和同质性比优先连接具有更强的影响力，并且 LLMs 在网络形成预测任务中远远超出随机猜测。总体而言，我们的研究通过揭示 LLMs 的网络形成行为，并探索它们对社交动态和规范的影响，为开发具有社交意识的 LLMs 做出了贡献。

    Feb, 2024

  • 大众的领袖？评估大型语言模型在狼人游戏中的舆论领导力

    基于狼人游戏的模拟平台，评估大型语言模型的本领领导力，并开发了两个新的度量标准，分别衡量意见领袖的可信度和对他人决策的影响力。结果表明，狼人游戏适合评估大型语言模型的意见领袖能力。

    Apr, 2024

  • 社交网络中的基于代理的观点形成建模：社会心理学的视角

    本文介绍了一个基于态度变化理论、群体行为理论和演化博弈理论的代理人在线舆论形成模型，该模型考虑了信誉度、接受者特征和群体环境对说服过程的影响，并将该模型应用于 Twitter，分析了话题类型、参数变化和意见领袖对舆论形成的影响。实验结果显示，争议性话题的意见演化表现出更大的不确定性和可持续性，而利益成本比对意见形成有着显着的影响，适当的比例将导致最长的放松时间或最统一的全球意见。此外，拥有大量追随者的名人比专家更有能力影响公众舆论。

    Jul, 2018

  • 辩论中 LLM 仿真的系统偏差

    近期自然语言处理的进展，特别是大型语言模型（LLMs）的出现，为构建精确复制人类行为的计算模拟提供了令人兴奋的可能性。然而，LLMs 是复杂的统计学习器，缺乏直接的演绎规则，因此容易产生意想不到的行为。本研究突出了 LLMs 在模拟人类互动方面的局限性，特别关注 LLMs 在模拟政治辩论方面的能力。我们的发现表明，尽管被指示从特定的政治角度进行辩论，LLM 代理倾向于符合模型固有的社会偏见。这种倾向导致了行为模式的偏离，似乎偏离了人类之间已经确立的社会动力学规律。我们使用了一种自动自我微调方法来强化这些观察结果，该方法使我们能够操纵 LLM 内的偏见，并展示代理随后与改变后的偏见保持一致。这些结果强调了进一步研究的必要性，以开发帮助代理克服这些偏见的方法，是创造更现实模拟的关键一步。

    Feb, 2024