Feb, 2024

随机性即所需：大型语言模型对问题-解决方案空间的语义遍历

HTML
PDF
TL;DR通过使用带有自定义想法数据库的LLM微调的新方法来探索创新问题和解决方案领域，通过在不同温度级别上语义地遍历双向问题和解决方案树，我们在解决方案编辑距离方面实现了高多样性，同时在语义上仍然保持与原始问题陈述的密切联系。此方法除了找到给定问题的各种解决方案外，还可以用于改进和澄清原始问题陈述。作为进一步验证该方法的证明，我们实施了一个概念验证的Slack机器人，作为创新助手。
发现论文，激发创造
  • LLM+P：利用最优规划提升大型语言模型的性能

    本文介绍了LLM + P框架，将经典计划器的优点结合到大语言模型中，可以通过自然语言描述解决计划问题，经过实验发现LLM + P可以提供大多数问题的最优解，而LLMs则无法为大多数问题提供甚至可行的计划。

    Apr, 2023

  • 思维传播：以类比方式进行复杂推理的大型语言模型

    Thought Propagation (TP) leverages insights from solving analogous problems to enhance the complex reasoning ability of Large Language Models (LLMs), achieving substantial improvements in finding optimal solutions, human preference in creative writing, and task completion rate of LLM-Agent Planning.

    Oct, 2023

  • 基于自适应语言模型和语义描述的多样化编程难题生成

    通过使用大型语言模型（LLM）生成的语义描述符直接优化有趣的多样性，我们提出了一种新的自动创作生成方法（ACES），用于在Python编程难题的无限空间中生成新颖且可行的目标，从而发现多样化的可解编程难题，并研究其对难题求解模型训练的影响。

    Oct, 2023

  • MacGyver：大型语言模型是创造性问题解决者吗？

    我们研究了现代大型语言模型（LLMs）在一个受限制的环境中的创造性问题解决能力。为了达到这个目的，我们创建了一个名为'MacGyver'的自动生成数据集，包含1,600个故意触发功能固定性并需要'跳出框架'思考的现实世界问题。我们将问题集呈现给LLMs和人类，并比较两者的问题解决能力。我们展示了对于两组来说，MacGyver都是具有挑战性的，但方式是独特且互补的。我们还提供了LLMs的详细错误分析，并展示了通过新颖的提示技术（如迭代的逐步反思和发散-收敛思维）来增强它们的问题解决能力的潜力。这项工作揭示了人类和人工智能的创造性问题解决能力，并说明了如何将心理学范式扩展到比较人类和机器的大规模任务中。

    Nov, 2023

  • AutoTRIZ：TRIZ和大型语言模型的人工创意

    AutoTRIZ是一种利用大语言模型来自动和增强TRIZ方法的人工创意工具，通过广泛的知识和高级推理能力，提供了一种通过人工智能进行设计自动化和可解释创意的新方法。

    Mar, 2024

  • 大型语言和视觉模型中的创新问题解决 -- 需要什么？

    本文讨论了将计算创造力与大语言和视觉模型集成以解决创新问题解决的关键局限性，通过增强提示的方式初步实验展示了计算创造力原则在此方面的应用，旨在促进对计算创造力在大语言和视觉模型中的创新问题解决的机器学习算法的讨论。

    May, 2024

  • 大型语言模型探索多样化设计解决方案的能力

    通过调整参数和不同的提示工程技术, 探索大型语言模型在生成多样化设计方案方面的有效性, 并通过比较多个参数和提示工程方法的组合, 以及使用相同多样性指标与人工设计方案进行比较, 结果表明人类生成的解决方案在所有设计主题上始终有更高的多样性评分。

    May, 2024

  • 代理舰队：使用遗传粒子滤波器协同解决问题的大型语言模型

    利用大型语言模型为代理人的一种新颖框架，动态调整探索策略的同时通过启发式函数优化探索与利用之间的权衡，实验证明其在“Game of 24”和“Mini-Crosswords”等基准任务上的效率和准确性优于以前提出的“Tree-of-Thoughts”方法。

    May, 2024

  • 通过大型语言模型引发问题规范

    大型语言模型可以用于将自然语言中的问题类映射到半正式规范中，以解决相关问题，并通过去除问题界定的中间步骤来加快认知系统研究的速度，同时保留认知系统的核心能力，如强大的推理和在线学习。

    May, 2024

  • 大型语言模型能否激发新的科学研究想法？

    本研究探讨了大型语言模型（LLMs）在基于研究论文信息生成新的研究想法的能力，填补了人工智能应用于科研创意生成的空白。我们发现，Claude-2产生的未来研究想法在多样性和作者观点的契合度上优于其他模型，如GPT-4和GPT-3.5。此研究突显了LLMs在创意生成过程中的潜力和局限性，为未来利用语言模型生成研究想法提供了重要洞见。

    Sep, 2024