Search | BriefGPT - AI 论文速递

搜索结果 - 200

双粒度量化：LLM 的高效细粒度量化
该论文介绍了一种称为 Dual Grained Quantization (DGQ) 的新型量化技术，通过将细粒度的 INT4 权重解量化为粗粒度的 INT8 表示，并使用 INT8 内核进行矩阵乘法，来保持卓越性能同时确保快速推理速度。实
PDF2 months ago
EcoAssistant: 更经济可靠地使用 LLM 助手
大型语言模型（LLMs）能够作为助手回答需要外部知识的查询，通过 EcoAssistant 框架，我们能够更经济、准确地利用 LLM 助手回答以代码为驱动的查询。
PDF2 months ago
探索 LLM 代理的协作机制：社会心理学视角
NLP 系统在多智能体社会中能够模拟人类协作智能吗？本文通过实验和理论结合，研究了当代 NLP 系统之间的协作机制，发现使用不同的社交行为，从积极辩论到内省反思，LLM 代理能够高效完成任务，并表现出类似人类的社交行为，这为 LLM 的协作
PDF2 months ago
ICLR魔术词是什么？LLM 提示的控制理论
我们将提示工程化正式化为对 LLMs 的最优控制问题，通过在 LLM 的输出分布中调节提示作为控制变量。我们提出一个简单的问题：给定一个令牌序列，是否总是存在一个我们可以添加的提示，以便将 LLM 引导到准确预测最终令牌？我们称这样一个最优
PDF2 months ago
革命性的移动互动：在移动设备上支持 30 亿参数的 GPT LLM
AI 领域近年来取得了显著的进展，尤其是基于变压器架构的强大大型语言模型（LLMs）的出现。本文介绍了一种创新的 LLM 推理方法，展望了在无需网络连接的情况下，拥有数十亿参数的 LLMs 可以直接在移动设备上执行的未来。该应用程序不仅作为
PDF2 months ago
面向未来的原因，立即行动：可证明样本效率的自主 LLM 代理的原则框架
认知大型语言模型（LLM）中，设计了一个名为 “为未来推理，为现在采取行动” 的框架（RAFA），通过在 LLMs 中结合学习和规划的过程，可以在最小交互次数内极大地提高推理能力，并在多个基准测试中得到了近乎完美的分数。
PDF2 months ago
LLM 平台的安全性：将系统评估框架应用于 OpenAI 的 ChatGPT 插件
通过插件生态系统来提高大型语言模型平台的安全性、隐私性和安全性，提出了一种攻击分类法的框架，在 OpenAI 的插件生态系统中应用了该框架，并提出了改进当前和未来基于 LLM 的计算平台的建议。
PDF2 months ago
通过强鲁棒对齐的 LLM 防御对齐破坏攻击
最近，大型语言模型（LLMs）取得了明显的进展，并在各个领域得到广泛应用。然而，人们越来越担心 LLMs 可能被滥用以生成有害或恶意内容。本研究介绍了一种抵御潜在破坏对齐的攻击的强韧对齐语言模型（RA-LLM），它可以直接在现有的对齐语言模
PDF3 months ago
基于企业数据的 LLM 应用架构下生成式 AI 服务实现的研究
本研究提出了一种利用大型语言模型（LLM）应用架构实现生成式人工智能服务的方法，通过利用生成式人工智能技术的最新进展，研究解决了信息匮乏的挑战，并通过利用 LLM 功能提出了具体的解决方案。研究探讨了缓解数据不足问题的策略，提供了量身定制的
PDF3 months ago
SARATHI：通过分块填充与顺便解码提高 LLM 推理效率
SARATHI improves Large Language Model (LLM) inference performance by employing chunked-prefills and decode-maximal batch
PDF3 months ago
从数量到质量：通过自导数据选择提高 LLM 性能以进行指令调整
大型语言模型的自主选择优化方法以及通过 IFD 指标识别差异以提高模型训练效率的研究对于提高 LLM 的效率和资源利用具有重要意义。
PDF3 months ago
LKPNR: 个性化新闻推荐框架的 LLM 和 KG
通过将大型语言模型（LLM）和知识图谱（KG）结合为传统方法的语义表示形式，该研究提出了一个新的通用框架，以准确地推荐候选新闻文章给用户，从而改善了新闻推荐系统中的个性化推荐效果。
PDF3 months ago
LLM-FuncMapper：通过 LLM 解释建筑法规中的复杂条款的功能标识
利用大型语言模型（LLM）开发的 LLM-FuncMapper 方法，在自动化规则检查（ARC）中对规章条款进行解释，并证明其在解释复杂的规章条款方面的有效性。
PDF4 months ago
AutoGen：通过多智能体对话框架实现下一代 LLM 应用
AutoGen 是一个新的框架，它允许使用多个可以相互对话解决任务的代理开发 LLM 应用程序。AutoGen 代理是可定制的、可对话的，并且可以无缝地允许人类参与。它们可以在使用 LLMs、人类输入和工具的各种模式下运行。AutoGen
PDF4 months ago
ICML加速 LLM 推断的分阶段推测解码
利用大型语言模型（LLM）的最新进展，我们提出了一种新颖的算法 —— 分阶段投机性解码，以加速小批量、设备上的 LLM 推断。我们通过改进投机性解码的前期工作解决了小批量推断的低算术密度问题。首先，我们将投机性批量重新组织为一棵树，这降低了
PDF4 months ago
异构知识融合：基于 LLM 的个性化推荐的新方法
通过从用户的异构行为信息中提取和融合异构知识，借助大型语言模型（LLM）实现个性化推荐，并通过结合异构知识与推荐任务，在 LLM 上进行指令调整以显著提高推荐性能。实验结果表明，我们的方法能够有效整合用户的异构行为并显著改善推荐性能。
PDF4 months ago
基于嵌入式检索和 LLM 的有效农业信息提取
利用领域无关的大型预训练语言模型 (LLM)，本研究探索了一种从农业文档中提取结构化数据的方法，通过文本检索和基于嵌入的检索进行过滤，然后使用 LLM 问答来自动提取文档中的实体和属性，并将其转换为结构化数据。与现有方法相比，我们的方法在保
PDF4 months ago
提升 LLM 通过进化微调用于新闻摘要生成
通过使用具有强大的自然语言理解和生成能力的 LLM，我们提出了一种新的新闻摘要生成方法，利用 LLM 从新闻段落中的事件中提取多个结构化事件模式，通过遗传算法演化事件模式的种群，并选择最适应的事件模式输入 LLM 来生成新闻摘要。实验结果表
PDF5 months ago
LLM 应用中 IP 保护的协议
本文讨论了两个旨在保护个人 Prompt 创作权利从而支持 LLM Prompt 开放市场繁荣发展的协议。
PDF6 months ago
LLM 可以自行阅读和生成 CXR 图像
本研究利用 VQ-GAN 框架将图像的潜在表示作为一种文本令牌，通过对预训练 LLM 进行微调，实现了无需结构改变或额外训练目标的图像生成，并将其应用于胸部 X-ray 图像和报告生成任务中。
PDF6 months ago