WildfireGPT: 针对火灾分析定制的大型语言模型
通过使用 Large Language Models (LLMs)，我们提出了 ModelGPT 框架，以满足用户的特定需求，并以更快的速度生成定制化的 AI 模型，以实现更加便利和用户友好的人工智能模型。
Feb, 2024
该研究介绍了 DisasterResponseGPT 算法，该算法结合灾难响应和规划指南，并利用大型语言模型快速生成有效的行动计划，生成的计划可在实时修改的同时比人工生成的计划更易于修改，该方法有可能通过在计划执行期间启用快速更新和调整来改革灾难响应行动。
Jun, 2023
该论文介绍了 ClimateGPT，这是一种专门用于综合气候变化领域的大型语言模型家族。该模型通过对科学导向的 3000 亿个标记数据集进行两次自训练，其中第一次自训练中包括 42 亿个领域特定的标记，并且第二次自训练则在预训练之后通过为气候领域进行调整进行。此外，还对 ClimateGPT-7B、13B 和 70B 模型进行了持续预训练，使用了 42 亿个领域特定的标记数据集来自 Llama-2。通过与气候科学家紧密合作创建高质量和人工生成的领域特定数据集，对每个模型进行了指令微调。为了减少虚构数量，我们优化了模型以进行检索增强，并提出了一种层次化检索策略。为了提高模型对非英语使用者的可访问性，我们建议使用级联机器翻译，并证明这种方法在大量语言上可以与本地多语言模型相媲美且更易于扩展。针对气候变化的跨学科特性，我们考虑了不同的研究视角，因此该模型可以在总体答案的基础上产生针对不同视角的深入答案。我们还提出了一套用于评估 LLMs 的自动气候专用基准测试。在这些基准测试中，ClimateGPT-7B 在截然不同于的 70B Chat 模型的情况下表现出色，而在一般领域基准测试上的结果没有下降。我们的人工评估证实了基准测试中看到的趋势。所有模型均是使用可再生能源进行训练和评估，并且公开发布。
Jan, 2024
该论文介绍了一种新颖的框架 Tree-GPT，将大型语言模型（LLMs）整合到森林遥感数据工作流中，从而提高数据分析的效率。通过整合图像理解模块、领域知识库和工具链，使 LLMs 能够理解图像、获取准确的知识、生成代码和在本地环境中执行数据分析。该系统在搜索、可视化和机器学习分析等多个任务上表现良好，展示了 LLMs 在森林研究和环境科学中的潜力。
Oct, 2023
这项开创性的研究探讨了大型语言模型（LLMs）如生成式预训练变换器（GPT）和双向编码器表示来自变换器（BERT）在技术、金融、医疗保健、教育等各个领域的广泛应用。尽管它们在自然语言处理（NLP）方面已经展现出卓越的能力，但这些 LLMs 在健身、整体福祉、城市规划、气候建模以及灾害管理等领域尚未得到系统性的研究，本综述除了提供对 LLMs 在不同领域的广泛应用进行全面分析外，还揭示了 LLMs 潜力尚未被利用的研究空白和领域。这项研究发现了 LLMs 在健身福祉、城市规划、气候建模和灾害响应等领域留下印记的创新方式，可以激发未来在这些领域的研究和应用。
Feb, 2024
通过对农业领域（特别是害虫管理）中人工智能大型语言模型（LLMs）生成的害虫管理建议内容进行评估，证明了人工智能大型语言模型在农业中的可行性，并且通过创新方法使用 GPT-4 作为评估器，在相关领域专家系统的基础上，综合评分，显示出 GPT-3.4 和 GPT-4 在大多数评估类别中优于 FLAN 模型，验证了人工智能大型语言模型在提供农业害虫管理建议方面的有效性和准确性（准确率为 72%）。
Mar, 2024
我们研究了一种基于 GPT-4 大型语言模型的定制化 AI 助手，旨在帮助决策者、公众和洪水预报员之间进行高效沟通，提供即时洪水警报和回答各种洪水相关问题，促进洪水风险管理及公众参与的普及化。
Mar, 2024
大型语言模型（LLMs）通常在广泛的、时间不加区分的文本语料库上进行训练，反映了缺乏带有时间元数据的数据集。本文提出了一种新的方法：一系列时间点的 LLMs，称为 Time Machine GPT（TiMaGPT），专门设计为非预测性的。这确保它们对未来的事实信息和语言变化保持不知情，这种策略对于理解语言的演化以及在动态环境下应用模型（如时间序列预测）尤为重要。我们提供模型和训练数据集的访问权限。
Apr, 2024
我们提出了一个基于开源大型语言模型的轻量级阿拉伯迷你气候 GPT，该模型经过细调，并利用矢量嵌入检索机制在推理过程中。我们通过定量和定性评估验证了我们提出的模型在与气候相关的查询中的优越性，并通过人工专家评估显示出对我们模型响应的 81.6% 偏好。
Dec, 2023