该研究论文综述了自然语言处理技术的利用，重点关注使用大型代码训练的基于 Transformer 的大型语言模型在 AI 辅助编程任务领域中的应用。这些模型在包括代码生成、代码补全、代码翻译、代码概述、缺陷检测和克隆检测等 AI 辅助编程应用中扮演着关键角色，而其中值得注意的例子包括由 OpenAI 的 Codex 和 DeepMind AlphaCode 提供支持的 GitHub Copilot。本文概述了主要的大型语言模型及其在与 AI 辅助编程相关的下游任务中的应用，并探讨了在这些应用中结合 NLP 技术和软件自然性面临的挑战和机遇，同时讨论了将 AI 辅助编程能力拓展到苹果的 Xcode 移动软件开发环境中的问题和机会，以使开发人员能够获得更先进的编码辅助，并使软件开发流程更加高效。

Jul, 2023

自计算机发明以来，通过自然语言进行沟通一直是一项梦想技术，但是自然语言非常难以进行数学表达，使得在不考虑程序设计的情况下很难将其实现为算法。然而，近年来深度学习在当代人工智能技术中发挥了核心作用，尤其是在自然语言处理领域，取得了前所未有的成果。本报告提供了前沿的自然语言处理技术如何实现 “熟能生巧” 的技术解释，并提供了其在商业应用中的示例。

Oct, 2023

本文综述了自然语言处理在编程方面的研究，并从推理模型到最新竞争级模型全面调查了现有的相关工作，具有技术类别的完整性，方便查找和比较未来的工作。

Dec, 2022

该论文对 iNLP 的定义、分类、评估方法、应用和未来研究方向进行了综合性调查，旨在为研究人员提供广泛的视野和工具，以促进与人类、知识库、模型和环境的交互、交流和合作。

May, 2023

提出自然语言嵌入程序作为一种统一的框架，用于解决需要符号和数值推理的任务，其中该方法促使语言模型生成包含自然语言表示结构化知识的数据结构上定义函数的完整 Python 程序，然后 Python 解释器执行生成的代码并打印输出。尽管使用了通用的提示，但我们发现此方法可以改进各种不同任务，包括数学和符号推理、文本分类、问题回答和指令跟随，并且生成的程序通常是可解释的，能够进行事后验证中间推理步骤。

Sep, 2023

LowCoder 是第一个既支持视觉程序界面又支持自然语言接口的低代码工具，我们通过用户研究发现，LowCoder 特别有用于 AI 操作员的发现性和迭代组合。

May, 2023

自然语言处理在需求工程中的半自动化规范化过程中起着重要作用，提供了更好的辅助，并可适用于特定用例和领域。

Sep, 2023

本论文提出了一个用自然语言输入构造程序合成器的框架，其使用 NLP 特征和关键词编程翻译的排名学习最优权重和分类器来代替学习并使用各种领域特定语言，可以用于编辑、智能教育系统和飞行信息查询等多个领域。通过 1200 多个英语说明，各合成器为 80％和 90％的说明将期望的程序排名为最好的一个和三个。

Sep, 2015

该研究综述了深度学习方法和模型在自然语言处理方面的应用和进展，分析和比较了不同方法和先进模型对语义分析和 NLP 任务领域的促进作用。

Mar, 2020

本研究提出了一种基于自然语言处理的业务自动化构建范例，通过应用大型自然语言模型将业务规则和自动化描述转换为业务规则引擎可解释的领域特定语言，以解决业务用户缺乏足够的编程能力的问题。实验比较了不同语言模型配置在不同目标领域下的性能，并探索了应用约束解码以确保正确生成输出的可能性。

Jul, 2022