large-language models | BriefGPT

关键词large-language models

搜索结果 - 27

NIPSAssertionBench: 用于评估大语言模型的断言生成基准
使用大型语言模型（LLMs）生成断言的有效性和适用性的定量评估。
PDF6 days ago
自监督可解释的基于概念的文本分类模型
该研究论文提出了一种自监督可解释概念嵌入模型（ICEMs），通过利用大型语言模型的泛化能力，在自监督方式下预测概念标签，并通过可解释的函数提供最终预测结果。实验结果表明，ICEMs 可以以自监督方式进行训练，并达到类似于全监督概念模型和端到
PDF12 days ago
大规模语言模型的优化结构裁剪方法
基于优化的结构剪枝方法通过在概率空间中学习剪枝掩码，通过前向传递和策略梯度估计器进行高效优化，实现对大型语言模型的剪枝，并在复杂性和效果方面超越现有方法。
PDF17 days ago
LLM-Vectorizer：基于 LLM 的验证循环向量化器
利用大语言模型（LLMs），我们提出了一个基于有限状态机多代理的方法，通过测试反馈生成矢量化代码，研究表明，LLMs 能够生成高性能的矢量化代码，相较于 Intel Compiler、GCC 和 Clang 等编译器，其运行速度提升了 1.
PDF25 days ago
会话式推荐的项目语言模型
通过使用 Item-Language Model（ILM），我们提出了一种解决当前推荐系统方法中所面临的关键问题的方法，该方法既可以对用户交互信号进行编码，也可以利用预训练的 Large-language Models（LLMs）处理这些
PDFa month ago
VQA 训练集是用于生成少样本汇集的自对弈环境
大型语言模型和大型视觉模型越来越能够解决组合推理任务，通过突破视觉问题回答基准测试的方法来衡量。然而，现有的解决方案通常涉及大规模预训练和微调数据集的精心构建，这可能代价高昂。本研究提出了一种技术，可以直接利用现有的训练集来构建以任务度量为
PDFa month ago
CG-FedLLM：用于大规模语言模型的联邦微调中梯度压缩方法
本研究提出了一种创新方法来压缩梯度以提高大型语言模型联邦学习中的通信效率，通过在客户端增加编码器以获取压缩的梯度特征，以及在服务器端增加解码器来重构梯度。通过使用特征筛选和保护关键特征的方式，我们的方法降低了通信成本并提高了性能，在隐私保护
PDFa month ago
COLING从生物医学文献中进行意图识别和实体提取
通过全面的实证评估，我们表明在生物医学文本中，受监督的微调方法仍然相关且比通用性的大型语言模型更有效，如 PubMedBERT 可以仅凭 5 个受监督示例就能在命名实体识别任务上超过 ChatGPT。
PDF3 months ago
CoverUp: 基于覆盖导向的 LLM 测试生成
CoverUp 是一个通过覆盖分析和大型语言模型 (LLM) 的组合驱动生成高覆盖率的 Python 回归测试的新颖系统，该系统通过与 LLM 的对话交替改进覆盖率，重点关注尚未覆盖的代码行和分支，从而显著提高测试套件的覆盖率，其效果的基础
PDF3 months ago
MMTransformer 架构所需的量子线性代数
生成式机器学习方法如大型语言模型正在革新文本和图像的创作。本研究通过容错性量子计算的视角来调查变压器架构。通过将预训练的权重矩阵作为区块编码来构建变压器的查询、关键和值矩阵。我们展示了如何使用 Hadamard 乘积对自注意矩阵的行逐行应用
PDF4 months ago
通过工作流范式增强关注机制：改进基于 LLM 的文本到 SQL 的分解
通过工作流模式方法，改善大型语言模型在文本到 SQL 任务中的上下文学习能力，提高关注力和问题解决范围，包括信息确定模块、基于问题分类的全新提示结构，以及自我纠正和主动学习模块的引入。在三个数据集上的广泛实验表明，我们的方法表现优于其他方法
PDF5 months ago
大型语言模型中的强健知识提取：基于社会选择理论
利用社会选择理论方法，通过重复使用排名查询来提高大型语言模型（LLM）查询的鲁棒性。本文探讨了在医疗和故障诊断等诊断场景中运用排名查询的方法，并介绍了从文献中借鉴的局部波达函数来合并多个查询结果，在实证中评估了我们方法的鲁棒性。
PDF6 months ago
LLMs 是否能配置软件工具
使用大型语言模型来改进软件配置过程，特别是在超参数配置方面，通过识别起始条件和缩小搜索空间，提高效率。在大量实验中发现，LLM 生成的响应的可变性以及基于领域特定关键词的一致行为，揭示了 LLM 在初始化过程和配置优化方面的潜力，但也强调了
PDF7 months ago
METAL: 大型语言模型质量分析的变形测试框架
大型语言模型（LLMs）已经改变了自然语言数据处理的范式。我们提出了一个名为 METAL 的框架，用于通过应用变异测试技术对 LLM 的质量进行系统测试，并引入了新的度量方法来准确评估 Metamorphic Relations（MRs）的
PDF7 months ago
一种新的评估度量捕捉由 LLM 数字水印引起的质量降低
评估大语言模型水印技术的新方法，并揭示了当前水印方法的可检测性、对文本质量的影响以及评估水印质量的重要性。
PDF7 months ago
ChatIllusion: 高效对齐交错生成自适应可视化指导模型
通过 GenAdapter 将视觉表示能力集成到 ChatIllusion 中，ChatIllusion 是一种高级生成多模态大语言模型，结合了大语言模型的能力和视觉理解能力，能够为用户提供多样且高质量的图像输出，同时保持语义一致性和对话控
PDF7 months ago
AAAI使用大型语言模型评估编程策略的可解释性
使用大语言模型来评估编程策略的可解释性，并验证其在解决编程问题和实时策略游戏中的应用，结果表明该度量标准在评估编程策略的可解释性方面是可靠且廉价的工具。
PDF8 months ago
若语源能言：评估大型语言模型在历史研究辅助中的应用
通过给强大的大型语言模型（LLM）增加来自高度专业化学术源的向量嵌入，我们展示了一种基于对话的方法可以使历史学家和其他人文学科的研究人员能够使用 LLMs 来检查不同类型文档的自定义语料库，并评估了 LLMs 在问题回答和数据提取组织两大任
PDF9 months ago
OpenLEAF: 开放领域的图文交替生成与评估
这项工作研究了一项名为开放域交错图像 - 文本生成的挑战性任务，该任务根据输入查询生成交错的文本和图像。我们提出了一种新的基于大型语言模型（LLMs）和预训练的文本到图像模型（T2I）的交错生成框架，即 OpenLEAF。在 OpenLEA
PDF9 months ago
基于 GPT 的文本规范化研究
通过自洽性推理和语言学提示工程，我们发现基于大型语言模型（LLM）的文本规范化能够实现比顶级规范化系统低约 40％的错误率，并据此发现了传统文本规范化任务设计中的关键限制。我们创建了一个新的文本规范化错误分类系统，并应用于 GPT-3.5-
PDF9 months ago