Jun, 2024

电信规格的技术语言处理

PDF
TL;DR大型语言模型（LLMs）在不同领域的应用越来越广泛。然而，目前即使是最先进的 LLMs，如 GPT-4，在没有大量预处理的情况下，从真实世界的技术文档中提取信息仍然存在挑战。本文讨论了处理电信行业专家生成的技术信息时，现有自然语言处理（NLP）工具的局限性，并将技术语言处理（TLP）的概念拓展到电信领域。此外，我们探讨了领域特定 LLMs 在规范工程师工作中的影响，并强调采用领域特定 LLMs 可以加快学习不同电信领域的专家的潜在好处。
large language modelsgenerative pre-trained transformer 4technical documentationtelecommunications engineeringdomain-specific llms
发现论文，激发创造
  • 电信领域的大型语言模型（LLM）：原则、关键技术和机遇的全面调研

    大型语言模型 (LLMs) 在最近因其出色的理解和推理能力而受到了广泛关注，取得了许多领域的巨大进展。LLM 技术的进步也为电信领域的许多任务自动化提供了有希望的机会。本工作旨在提供 LLM-enabled 电信网络的全面概述，介绍了 LLM 的基本原理、关键技术和电信应用，并给出了未来发展方向。

    May, 2024

  • 通过大型语言模型了解电信语言

    本文介绍了如何使用 Fine-tune 调整预训练语言模型，例如 BERT、RoBERTa 和 GPT-2，来识别电信领域的文档中的工作组标准，其准确率可达 84.6%。

    Jun, 2023

  • 通信行业的大型语言模型：即将对行业产生的影响

    大型语言模型 (LLMs) 对于自然语言处理 (NLP) 领域以外的许多领域产生了深远的影响，并引起了前所未有的关注。该研究深入探讨了 LLMs 的内部工作机制，提供了对其当前能力和局限性的深入洞察。此外，研究还揭示了在电信领域内使用 LLMs 面临的独特挑战，以及可以在电信行业中实施的使用案例和研究方向。解决这些挑战是充分利用 LLMs 潜力、完全发挥其在电信领域中能力的重要一步。

    Aug, 2023

  • 大型语言模型在电信领域的语言智能

    在自然语言处理领域中，本研究通过对四个知名的大型语言模型（Llama-2，Falcon，Mistral 和 Zephyr）进行全面的零样本评估，与最先进的微调模型进行性能比较，评估了大型语言模型在电信领域内的知识和理解能力，并发现零样本的大型语言模型能够在这一领域内达到与当前最先进微调模型相当的性能水平，突显了大型语言模型作为理解这一领域不足的各个方面的有价值资源的潜力。

    Feb, 2024

  • 利用大型语言模型理解电信标准

    通过评估最新的大型语言模型作为第三代合作伙伴计划（3GPP）文件参考的问答助手的能力，本文提供了性能评估的基准和测量方法，进行了数据预处理和微调，提供了适用于所有语言模型的增加响应准确性的指南，并提供了一种名为 TeleRoBERTa 的模型，其性能与基础语言模型相当，但参数数量少一个数量级。结果表明，大型语言模型可以作为电信技术文件的可靠参考工具，因此在故障排除、维护、网络运营和软件产品开发等多个领域具有潜力。

    Apr, 2024

  • 电信领域中 LLMs 的能力和局限性观察

    本文分析了引入生成式人工智能（AI）的大型语言模型（LLMs）—— 如 OpenAI 的 ChatGPT、GPT3.5 和 GPT4、谷歌的 Bard、Large Language Model Meta AI（LLaMA）等 —— 在通信界面（特别是企业无线产品和服务）中应用的能力和局限性，并针对 Craddlepoint 公开数据进行多个用例的比较分析，包括领域自适应、内容连贯性、输入扰动和错误的鲁棒性。我们相信这种评估将为数据科学家提供建立面向领域特定需求的定制对话接口的有用见解。

    May, 2023

  • 电信语言模型：是否必须大规模？

    该论文评估了 Phi-2 模型在电信领域的的内在理解能力，并通过检索增强生成方法，将电信标准规范知识库与其整合，提高了其在准确度方面的性能。Phi-2 模型在回答与电信标准相关的问题上表现出与资源密集型 GPT-3.5 相当的准确度，同时探索了 Phi-2 在电信领域解决问题的能力和局限性。

    Mar, 2024

  • 从文本到转型：大型语言模型多功能性的全面评述

    这项开创性的研究探讨了大型语言模型（LLMs）如生成式预训练变换器（GPT）和双向编码器表示来自变换器（BERT）在技术、金融、医疗保健、教育等各个领域的广泛应用。尽管它们在自然语言处理（NLP）方面已经展现出卓越的能力，但这些 LLMs 在健身、整体福祉、城市规划、气候建模以及灾害管理等领域尚未得到系统性的研究，本综述除了提供对 LLMs 在不同领域的广泛应用进行全面分析外，还揭示了 LLMs 潜力尚未被利用的研究空白和领域。这项研究发现了 LLMs 在健身福祉、城市规划、气候建模和灾害响应等领域留下印记的创新方式，可以激发未来在这些领域的研究和应用。

    Feb, 2024

  • 大型语言模型作为虚拟导师的使用综述

    利用 Transformer 架构的大型语言模型在教育领域引起了广泛关注，主要应用包括生成和评估教育材料、自动问题生成等，其中 GTP-3 和 BERT 是最受欢迎的模型。

    May, 2024

  • ChatGPT：从大型语言模型向大型知识模型发展

    通过使用基于 transformer 的生成神经网络架构的 ChatGPT 和其他大型语言模型（LLM）在自然语言处理和图像合成等领域的惊人成功，许多研究人员对过程系统工程（PSE）中的潜在机会感到兴奋。然而，尽管它们在某些任务中非常有用，如撰写文件的初稿、代码编写辅助、文本摘要等，但它们在高度科学领域的成功受限于缺乏深度领域知识而无法推理、规划或解释。在这篇论文中，我们讨论了在化学工程领域开发这种系统面临的挑战和机遇。

    May, 2024