利用大型语言模型进行情景模拟的最优决策制定
使用大型语言模型（LLMs）在超参数优化（HPO）期间进行决策，在有限搜索预算的情况下，通过实证评估发现，LLMs在标准基准测试上可以表现与传统HPO方法（如随机搜索和贝叶斯优化）相当甚至更好。此外，我们提出将定义模型的代码作为超参数进行处理，LLMs输出该超参数，超越了现有HPO方法的能力。我们的研究结果表明，LLMs是提高传统超参数优化中效率的一种有前景的工具。
Dec, 2023
基于大型语言模型（LLMs）和进化算法（EAs）的优势和互补性，本文提出了一篇综合综述和展望性的论文，将它们的相互启示分为LLM增强进化优化和EA增强LLM两个方面，并介绍了一些整合方法来论证在各种应用场景中LLMs与EAs的融合。这篇论文是围绕LLMs时代的EA研究的首个综合综述，为了解和利用LLMs与EAs之间的协作潜力奠定了基础，并提供了挑战和未来方向的指导。
Jan, 2024
基于大型语言模型（LLM）的多智能体系统在复杂问题解决和世界模拟中取得了重大进展，我们提供了一份综述，深入讨论了基于LLM的多智能体系统的基本方面和挑战。
Jan, 2024
大型语言模型（LLM）在商业、工程和医学等领域日益广泛应用。本文提出了DeLLMa（不确定环境下的决策型大型语言模型助手）框架，通过多步骤的脚手架过程，绘制决策理论和效用理论的原则，提供一种优化且可由人类审查的决策过程，从而显著提高LLM的决策性能，使准确率提高了40%。
Feb, 2024
通过使用多模式大语言模型处理文本和视觉提示，我们提出一种增强优化性能的方法，在深入理解处理的优化问题方面提供了更综合的视角，类似于人类的认知过程。通过对一个众所周知的组合优化问题进行广泛的实证研究，我们评估了该方法的有效性，并与仅依赖于文本提示的基于大语言模型的优化算法进行了比较，展示了多模式方法的显著优势。
Mar, 2024
对于大型语言模型（LLMs）的研究，包括基本原理、应用领域以及训练过程，本综述论文对于上下文学习、多种微调方法以及参数使用效率优化等机制进行探讨，同时深入研究了如何通过创新的强化学习框架和融入人类反馈的新方法来更好地与人类偏好相统一的问题。还研究了将外部知识融入LLMs的新兴技术——检索增强生成。对于LLMs的伦理问题，论文讨论了需谨慎且负责任的应用需求。最后，论文展望了未来的研究方向，提供了关于当今及未来LLMs领域中不断发展的全面且简明的概述，为人工智能领域的研究人员和实践者提供了有益的指南。
Apr, 2024
本论文提出了一种新的方法，利用在线模型选择算法在序列决策中高效地整合LLM代理，统计上显著优于传统决策算法和普通LLM代理，计算上避免了LLM梯度更新的高昂代价，并且在整个决策过程中只需要少量LLM调用。
Jun, 2024