共识游戏：通过均衡搜索进行语言模型生成

Oct, 2023

共识游戏：通过均衡搜索进行语言模型生成

The Consensus Game: Language Model Generation via Equilibrium Search

Athul Paul Jacob, Yikang Shen, Gabriele Farina, Jacob Andreas

TL;DR通过引入一种称为一种 Equilibrium-Ranking 的解码算法，我们成功地将语言模型解码转化为一种博弈理论的过程，该过程在多个任务上提高了性能，并强调了在语言模型中解决真实性和一致性的重要性。

Abstract

When applied to question answering and other text generation tasks, language models (LMs) may be queried generatively (by sampling answers from their output distribution) or discriminatively (by using them to score or rank a set of candidate outputs). These procedures sometimes yield very different predictions. How do we reconcile mutually incompatible scori

language models decoding algorithm game-theoretic procedure equilibrium-ranking truthfulness and consistency

发现论文，激发创造

大型语言模型在混合策略纳什均衡游戏中的应用

本研究旨在研究博弈论和生成人工智能的交叉领域，聚焦于大型语言模型在找到混合策略 Nash 均衡的游戏中的能力，发现了大型语言模型在运行代码和提供特定提示的情况下性能显著提高，但也揭示了在难以推断游戏的随机化策略时，大型语言模型的限制性。该论文致力于为博弈论和生成人工智能的交叉领域增添研究成果，同时提供有关大型语言模型优势和劣势的有价值洞察，并强调了进一步研究的必要性以克服大型语言模型的局限，尤其是在处理稍复杂情境时，以发挥其全部潜力。

Jun, 2024

通过微调语言模型，在人类具有不同偏好的情况下寻找共识

通过 fine-tuning 机制，使用大型语言模型生成众人认可的共识性议论，以协调多样化的人类意见，并发现从子集中生成的共识性声明提高了个体贡献，并能够被人类用户所接受，具有较强的差异性和普适性。

Nov, 2022

规范化惯例：均衡计算作为一种语用推理模型

我们提出了一种实用语言理解模型，其中话语是通过搜索信号博弈的正则化均衡来产生和理解的。在这个模型中，演讲者和听众寻找与语境相适应的话语 - 意义映射，既接近博弈论最优规范，又接近共享的 “默认” 语义。通过将实用交流描述为均衡搜索，我们获得了合理的抽样算法和关于交际成功和自然性之间权衡的形式保证。在捕捉实际和理想人类对实用蕴涵的判断的多个数据集中，ReCo 模型与最佳反应和理性言语模型的预测相匹配或改善。

Nov, 2023

评估语言模型代理的方法与谈判

通过协商游戏来共同评估语言模型的性能和对齐情况，发现开源模型目前无法完成这些任务，合作协商游戏具有挑战性，最强大的模型并非总是 “赢家”。

Jan, 2024

clembench: 使用游戏玩法评估对话代理的聊天优化语言模型

本文探索了一种方法，即在特定的游戏场景中测试大型语言模型的表现，以此来深入了解它们是否能像环境理解代理一样进行操作，涵盖了五个交互设置，并表明当前聊天优化的大型语言模型在一定程度上能够遵循游戏规则，并且用于衡量游戏表现和调查 LLM 的性能具有诊断价值。

May, 2023

以字符串形式的状态作为策略：通过博弈理论求解器驾驭语言模型

对话和游戏理论的结合，使用大型语言模型提供了生成对话和构建游戏理论解决概念的能力。

Jan, 2024

大型语言模型中的强健知识提取：基于社会选择理论

利用社会选择理论方法，通过重复使用排名查询来提高大型语言模型（LLM）查询的鲁棒性。本文探讨了在医疗和故障诊断等诊断场景中运用排名查询的方法，并介绍了从文献中借鉴的局部波达函数来合并多个查询结果，在实证中评估了我们方法的鲁棒性。