本文提出了一种用于网络流量理解和生成任务的生成预训练模型，优化了适应预训练模型到多样化任务的效果，并在一系列流量理解和生成任务中展现了其显著的有效性，显著优于现有技术方案。

Apr, 2023

我们介绍了一个名为 NExT-GPT 的全方位任意多模式多语言模型系统，通过使用多模态适配器和不同扩散解码器，NExT-GPT 能够接受和生成文本、图像、视频和音频等任意组合的内容，并通过调优投影层的少量参数进行训练和扩展，使其具备复杂的跨模态语义理解和内容生成能力，为构建能够模拟通用模态的人工智能代理提供了有前景的可能性。

Sep, 2023

本文提出了一种基于大规模生物医学文献预训练的领域特定生成 Transfomer 语言模型 ——BioGPT，用于生物医学领域的自然语言处理任务，结果表明 BioGPT-Large 在 PubMedQA 任务上取得了 81.0% 的准确率，并提高了 BC5CDR、KD-DTI 和 DDI 关系提取任务的 F1 得分。

Oct, 2022

本文介绍了一种统一且通用的生物医学生成式预训练转换器（BiomedGPT）模型，利用自监督方法在大量和多样化的数据集上进行训练，可接受多模式输入并执行多种下游任务，在 20 个公共数据集上表现优于先前绝大多数最先进模型，涵盖了 15 种独特的生物医学模式。通过实验展示了我们的多模式和多任务预训练方法将知识转移应用于先前未曾见过的数据的有效性。总的来说，本研究在开发生物医学统一通用模型方面迈出了重要的一步，对于改善医疗保健结果具有深远的影响。

May, 2023

本文探讨大型语言模型在智能交通系统中的未来应用，介绍了交通数据的不同模态的处理和 LLM 的运行方式。此外也提供了智能手机崩溃报告自动生成和分析框架作为应用案例。虽然具有潜在优势，但数据隐私、数据质量和模型偏差等挑战需予以考虑。

Mar, 2023

引入 TrafficSafetyGPT，一种新颖的 LLAMA 模型，通过 TrafficSafety-2K 数据集进行了有监督微调，该数据集包含有政府出版的指导书和 ChatGPT 生成的指令 - 输出对的人工标签，以解决大型语言模型在交通安全领域任务中表现亚优的问题。

Jul, 2023

VL-GPT 是一种同时感知和生成视觉和语言数据的变压器模型，通过采用直观的自回归目标，实现了图像和文本两种模态的统一预训练方法，从而使模型可以像处理文本一样无缝地处理图像和文本。预训练完成后，VL-GPT 在包括图像字幕生成、视觉问答、文本到图像生成等多样的视觉和语言理解以及生成任务中表现出了令人瞩目的零样本和少样本性能。

Dec, 2023

TrackGPT 是一种基于 GPT 的模型，可用于实体轨迹预测，并在测距和空间两个领域表现出强大的性能，同时保持领域无关性和最小化数据特征要求。

Jan, 2024

通过将 ChatGPT 和交通基础模型相结合，TrafficGPT 在交通管理领域中不仅推动了交通管理的进步，也为在该领域利用人工智能能力提供了一种新的方法。

Sep, 2023

使用本地生成预训练转换器（GPT）模型进行零 - shot 黑盒多自然语言翻译成英文文本，评估并比较不同开源 GPT 模型在语言翻译准确性上的表现。

Apr, 2024