本文阐述了预训练的大型语言模型（LLMs）和进化算法（EAs）之间的强一致性，包括多个一对一的关键特性：记号嵌入和基因型 - 表现型映射，位置编码和适应度塑形，位置嵌入和选择，注意力和交叉，前馈神经网络和突变，模型训练和参数更新，以及多任务学习和多目标优化。在这一一致性视角下，分析了现有的耦合研究，包括进化微调和 LLM 增强型 EAs。借助这些见解，我们概述了未来将 LLMs 和 EAs 耦合的基本研究路线图，并强调了其中的关键挑战。这种一致性不仅揭示了 LLMs 背后的进化机制，还促进了接近或超越生物机构的发展的进化人工智能代理的发展。

Jan, 2024

演化计算（EC）是一种强大的优化算法，已在各个领域得到应用。大型语言模型（LLMs）的出现不仅改变了自然语言处理，还将其能力扩展到各个领域。通过利用 LLMs 的丰富知识和自适应能力，我们提供了一个前瞻性的概述，介绍了 LLMs 对 EC 可能带来的改进，重点关注算法本身、种群设计和其他增强措施。这为 LLMs 和 EC 交叉研究的未来方向提供了一个有希望的方向。

May, 2024

大型语言模型（LLMs）具备黑箱优化任务的潜力，可以通过 least-to-most 排序的提示策略提供演化优化算法，称为 EvoLLM，从而在合成 BBOB 函数和小规模神经进化任务上稳定优于传统算法。并通过对 LLM 的模型规模、提示策略和上下文构建的比较研究表明，通过对先前收集的教师优化轨迹进行指令微调，能够灵活地提高 EvoLLM 的性能。

Feb, 2024

利用大型语言模型进行算法进化，能够自动生成优化算法，减少人工专家和领域知识的需求，在解决推销员旅行问题方面表现优异，具有出色的可伸缩性，与先前的利用语言模型作为搜索操作符的尝试大不相同。

Nov, 2023

通过利用大型语言模型的指导进化框架，研究证明了机器学习模型的自主进化和增强设计的潜力。

Mar, 2024

本文探讨了在大规模多目标优化领域中，生成 AI（GenAI）和进化算法（EAs）的无缝集成。通过着眼于大型语言模型（LLMs）的变革性作用，我们的研究调查了 LLM 辅助推理在自动化和增强决策过程中的潜力。具体而言，我们突出了 LLM 在揭示进化优化解决方案中的关键决策变量和表述上下文权衡方面的有效性。我们的方法旨在解决在大规模推断复杂多目标优化解决方案中固有的挑战，强调 LLM 的适应性，使其能够提供细致入微的解释，并使其语言与不同利益相关者的专业水平和领域偏好保持一致。经验证明，LLM 辅助推理在实际决策场景中具有实际可应用性和影响力。

May, 2024

通过连接大型语言模型和进化算法，本论文提出了一种用于离散提示优化的新框架 ——EvoPrompt，极大地提升了语言理解和生成任务中大型语言模型的表现，并展示了语言模型与传统算法结合的协同效应。

Sep, 2023

该研究论文探讨了大型语言模型在零样本优化方面的能力，介绍了一种基于语言模型的进化优化方法（LEO），并通过数值示例验证此假设的有效性。同时，论文还提出使用大型语言模型时需要小心处理其想象性和产生幻觉的特点，并给出了获取可靠答案的实用指南以及讨论了方法局限和潜在的研究方向。

Mar, 2024

本文介绍了一种协作设计框架，将交互进化和大型语言模型相结合，模拟典型的人类设计过程，并在三个远程人类设计师的游戏设计任务中对该框架进行了评估。

Feb, 2023

本文介绍了大型语言模型（LLMs）的迭代交互，以及多代理 LLM 系统和人类文化进化之间的相似之处，并运用迭代学习（IL）贝叶斯框架解释 LLMs 的一些行为特征，并通过实验证实了该理论框架的预测，有望更有效地预测和引导 LLMs 在期望的方向上的进化。

Apr, 2024