Nov, 2023

基于 LLM 代理的网络观点动力学模拟

PDF
TL;DR准确模拟人的观点动态对于理解各种社会现象至关重要，包括极化和误信息传播。我们提出了一种基于大型语言模型的人口多智能体模拟观点动态的新方法。我们的发现揭示出语言模型智能体存在对准确信息的固有偏差，导致在科学现实中产生共识。然而，该偏差限制了模拟对气候变化等问题持有抵制观点的个体。在通过启动工程引入确认偏见后，我们观察到观点分裂的情况与现有的多智能体研究一致。这些见解突显了在该领域中大型语言模型智能体的前景和局限，并提出了未来发展路径：通过与真实世界的话语相结合，完善语言模型，以更好地模拟人类信念的演变。
opinion dynamicsagent-based modelslarge language modelsbiasconsensus
发现论文，激发创造
  • 辩论中 LLM 仿真的系统偏差

    近期自然语言处理的进展，特别是大型语言模型（LLMs）的出现，为构建精确复制人类行为的计算模拟提供了令人兴奋的可能性。然而，LLMs 是复杂的统计学习器，缺乏直接的演绎规则，因此容易产生意想不到的行为。本研究突出了 LLMs 在模拟人类互动方面的局限性，特别关注 LLMs 在模拟政治辩论方面的能力。我们的发现表明，尽管被指示从特定的政治角度进行辩论，LLM 代理倾向于符合模型固有的社会偏见。这种倾向导致了行为模式的偏离，似乎偏离了人类之间已经确立的社会动力学规律。我们使用了一种自动自我微调方法来强化这些观察结果，该方法使我们能够操纵 LLM 内的偏见，并展示代理随后与改变后的偏见保持一致。这些结果强调了进一步研究的必要性，以开发帮助代理克服这些偏见的方法，是创造更现实模拟的关键一步。

    Feb, 2024

  • 使用大型语言模型模拟社交媒体，评估替代新闻订阅算法

    社交媒体及其新闻推送算法对于提升构建性对话具有挑战性，本研究使用大型语言模型和基于代理模型的仿真来研究不同的新闻推送算法如何影响在线对话质量，发现新推送算法能够促进跨政治观点的建设性、非有害对话。

    Oct, 2023

  • 超越人口统计学：利用人类信念网络对饰演角色的基于 LLM 的代理进行对齐

    通过整合从实证人类信念网络中提取的信息，本研究评估了如何改进基于人类行为的大型语言模型（LLM）与人类行为的一致性，结果表明在模拟和理解社会信念分布模式的工作中，将 LLM 代理与单一信念进行关联会显著提高对相关主题的一致性。

    Jun, 2024

  • 关于大型语言模型中多智能体系统中观点动态的原则

    我们研究互动的大型语言模型（LLMs）群体内舆论的演变。我们发现这些模型的交流受到几个倾向性因素的影响，分别是追求其他模型意见的共识、在资金配置时展现谨慎和考虑伦理问题。我们还发现这些偏见受到意见改变缺乏具有说服力的理由、愿意参与讨论的程度以及资源分配的分布的影响。此外，这些偏见之间的紧张关系可能导致对具有负面含义的项目的资金支持继续存在。通过自由形成意见与从三个资源分配选项中选择意见相比，我们发现在互动后，LLM 的意见分布更加多样化，而在后一种情况下，通常会达成共识或极化。当代理人了解过去的意见时，他们会努力保持一致，并产生更多样的更新规则。我们使用 Llama 3 LLM 进行了研究。

    Jun, 2024

  • 运用大型语言模型增强的代理程序模拟宏观经济活动

    在宏观经济仿真中，利用大型语言模型（LLMs）的人类化特性可以克服传统限制，能够设计出表现出人类决策和适应能力的 LLM 代理，进行模拟实验以展示其逼真的工作和消费决策能力，并产生比现有规则化或人工智能代理更合理的宏观经济现象。

    Oct, 2023

  • 大型语言模型作为增强式民主的代理

    通过利用 TensorFlow 生成模型（LLMs）预测个体偏好和整体偏好，我们对 2022 年巴西总统选举期间收集的 67 项政策提案的数据进行训练和测试，发现 LLMs 在个体层面上的预测准确率为 69% 到 76%，并对自由派和大学教育程度较高的参与者有明显的优势；在整体层面上，借助 Borda score 对偏好进行汇总，我们发现通过 LLMs 进行增强的数据能够更好地预测整个参与人群的偏好，尤其是在随机样本仅代表总人口不超过 30% 到 40% 的情况下，这些结果表明 LLMs 在增强民主系统的构建中具有潜在的用途。

    May, 2024

  • 评估 LLM 代理人群体动态与人类群体动态：基于党派群体智慧的案例研究

    本研究探讨了大型语言模型（LLMs）在模拟人类群体动态方面的潜力，特别是在政治上充满挑战性的背景下。我们使用 LLMs 复制了党派群体智慧现象，扮演民主党和共和党角色进行结构化互动，评估代理人的回应如何通过社会影响来演变。我们的主要发现表明，扮演具体人物并且没有链式思考的 LLM 代理人与人类行为紧密一致，而有链式思考则损害了一致性。然而，将明确的偏见纳入代理人提示并不一定增强党派群体的智慧。此外，用人类数据对 LLMs 进行微调显示出实现类似人类行为的潜力，但存在过度拟合特定行为的风险。这些发现展示了在模拟人类群体现象时使用 LLM 代理人的潜力和局限性。

    Nov, 2023

  • 计算实验与基于大型语言模型的智能体：调查与展望

    计算实验、基于代理模型、大语言模型、人形化和因果分析是本文的关键词，该研究综述了代理结构的历史发展和其与人工社会的结合，阐述了计算实验和大语言模型代理相互提供的优势，并讨论了该研究领域的挑战和未来趋势，为后续相关研究提供指导。

    Feb, 2024

  • LLM 辅助的基于 Agent 的社会模拟建模：挑战与机遇

    大规模语言模型与基于代理的仿真的整合对于理解复杂社会系统具有变革潜力，本文探讨了系统开发 LLM 增强的社会仿真的架构和方法，并讨论了该领域的潜在研究方向。结论表明，将 LLM 与基于代理的仿真相结合为研究人员和科学家提供了强大的工具集，能够生成更细致、逼真和全面的复杂系统和人类行为模型。

    May, 2024

  • 语言模型反映了谁的观点？

    通过 OpinionsQA 数据集，本研究提出了一种量化框架，调查语言模型中体现的观点与美国 60 个人口群体的观点的一致性，在包括堕胎和自动化在内的话题上，我们发现当前的语言模型与 US 人口集体观点之间存在相当大的不匹配，即使是明确定向于特定人口群体也是如此。

    Mar, 2023