AI 论文速递

最新顶会 ChatGPT

大型语言模型和 ChatGPT 的循环脉冲神经网络的 Verilog 设计
探索使用大型语言模型（LLMs）自动生成硬件描述代码的潜力，以支持和增强高效的神经形态计算架构的开发，并通过三个案例研究验证其可行性和实施性。
PDFa day ago
ICLRPlan-Seq-Learn: 语言模型引导强化学习解决长时程机器人任务
利用大型语言模型（LLMs）和运动规划，提出了一种模块化方法 Plan-Seq-Learn（PSL），将抽象语言和学习到的低级控制相结合，从头开始解决长期目标的机器人任务，并在超过 25 个具有挑战性的机器人任务中取得了最先进的结果。
PDFa day ago
NeMo-Aligner：高效模型对齐的可扩展工具包
用于大规模语言模型对齐的 NeMo-Aligner 工具包可以高效地扩展到使用数百个 GPU 进行训练，支持 Reinforcement Learning from Human Feedback (RLHF)、Direct Preferen
PDFa day ago
基于大型语言模型的上下文感知聚类
使用开源的大型语言模型（LLMs）进行效率高且有效的监督聚类，通过捕捉上下文来聚类实体子集。通过引入一种新的改进的三元损失函数和基于文本增强技术的自监督聚类任务，我们的方法在各种电子商务查询和产品聚类数据集上显著优于现有的无监督和有监督的基
PDFa day ago
如何做到对？使用 GPT 重述错误学员回答
通过使用 GPT-4 模型，我们的研究建立一个解释性反馈系统，用于训练初级导师。研究结果表明，该模型有效地识别出三个训练课程中正确 / 错误的学员反馈，并将错误反馈转化为期望的反馈，其性能达到与人类专家相当的水平。
PDFa day ago
ICLR利用动量增强越狱攻击
通过在渐变启发式中引入动量项，我们提出了动量加速 GCG（MAC）攻击，以稳定优化过程并从先前迭代中获取更多启发式见解，实验结果展示了 MAC 在基于渐变的攻击中对齐语言模型的显著增强。
PDFa day ago
模型架构与规模对预测分子性质的作用：来自对 RoBERTa、BART 和 LLaMA 的微调的见解
该研究引入了一个系统框架，用于比较大型语言模型在各种化学信息学任务中的微调效果。通过采用统一的训练方法，我们评估了三种知名模型（RoBERTa、BART 和 LLaMA）在使用 SMILES 作为通用分子表示格式预测分子性质时的能力。我们的
PDFa day ago
CACTUS: 化学代理连接工具的使用与科学
通过集成化学信息学工具，CACTUS（Chemistry Agent Connecting Tool-Usage to Science）能够利用开源 LLMs 的认知能力和领域特定工具，提高在化学和分子发现领域的推理和问题解决能力。CACT
PDFa day ago
ICLRWildChat：百万条 ChatGPT 野外互动日志
ChatGPT 发布了 WildChat 数据集，包含 100 万个用户与 ChatGPT 之间的对话，记录了最多样的用户提示，最多语言和最丰富多样的潜在有毒使用案例；同时，还基于地理区域和时间维度丰富了用户行为的详细分析，证明了数据集在指
PDFa day ago
通过 LLM - 符号定理证明验证和改进自然语言解释
通过将大型语言模型（LLMs）与定理证明器（TPs）相结合，本文研究了自然语言解释的验证和改进，提出了一个名为 Explanation-Refiner 的神经符号框架，用于生成和形式化解释句子，并为自然语言推理（NLI）提供潜在的推理策略。
PDFa day ago
COLINGLLMs 作为标注者的有效性：直接表征的比较概述和实证分析
通过比较概述了 12 个研究探索了大型语言模型在数据标注方面的潜力，同时揭示了存在的限制，如表征性、偏见、对提示变化的敏感性和对英语的偏好。利用这些研究的见解，我们的实证分析在四个主观数据集上进一步检查了人类和生成的 GPT 意见分布之间的
PDFa day ago
ACL大型语言模型时代的语义表示分析
在大语言模型 (LLMs) 时代，本文调查了语义表征在 LLMs 时代中的作用，并探讨了 Abstract Meaning Representation (AMR) 对五个不同自然语言处理任务的影响。通过提出了一种名为 AMRCoT 的 A
PDFa day ago
SIGIR机器生成报告的评估
大型语言模型在自动报告生成方面仍面临完整性、准确性和可验证性等质量问题，本文提出了基于评估框架的自动报告生成视野，以满足用户的复杂信息需求，并实现对生成报告的完整性、准确性和可验证性的评估。
PDFa day ago
通过大型语言模型从动作中学习对象状态
通过使用大型语言模型，我们提出了一种从指导视频中的动作信息中提取物体状态信息的方法，并使用所生成的伪标签对模型进行训练，从而明确从动作中提取出物体状态信息的有效性。
PDFa day ago
医疗应用的思维工程范式：范围审查和更好实践的建议
医疗领域中探索提示工程的有效性：回顾近期 114 项应用提示工程于医学领域的研究，覆盖提示学习、提示调优和提示设计领域，结果发现提示设计是最普遍的方法，其中有 12 篇论文中三者的术语被交替使用。ChatGPT 是最常用的大型语言模型，有七
PDFa day ago
面向源基数据生成的高效信息获取对话：以会议记录为案例
结合大型语言模型与人类专业知识，通过将角色扮演代理和用户的对话模拟为大型语言模型生成，然后由人类专家验证并补充归属数据，以更高效可靠地生成数据，并构建了集中在会议记录的首个信息检索对话数据集 MISeD，其中模型在测试集、手动 WOZ 测试
PDFa day ago
人类和大型语言模型中的创造过程特征
大型语言模型在创造性任务中表现得相当有创造力，但研究关于 LLM 创造力的过程主要集中在产品上，对创造过程的关注较少。我们提供了一种自动化方法来描述人类和 LLM 如何在交替使用任务和语言流利性任务中探索语义空间，并与其在行为上的对比。我们
PDF2 days ago
能否通过虚构模型减少人类的 “幻觉”？
利用心理测量评估，本研究探讨了大型语言模型（LLMs）在检测常见逻辑陷阱方面与普通人的能力。通过对人类理性与 LLMs 的对比，提出了利用 LLMs 来对抗误解的方法，结合认知失调理论和详细性可能性理论等心理学模型。通过这一努力，凸显了 L
PDF2 days ago
ACL大型语言模型的量化对置信度的影响
近期的研究引入了通过事后训练量化或低位权重表示来进行大语言模型（LLMs）有效压缩的技术。尽管量化权重提供了存储效率和更快推理的优势，但现有研究指出，量化可能损害性能并加剧 LLMs 中的偏见。本研究通过考虑语言模型类型和规模等因素，调查了
PDF2 days ago
蒙特卡洛树搜索通过迭代偏好学习提高推理能力
通过增强大型语言模型的推理能力，我们介绍了一种受 AlphaZero 成功策略启发的增量式偏好学习方法。我们利用蒙特卡洛树搜索 (MCTS) 迭代收集偏好数据，将实例级奖励分解为更精细的步骤级信号。为了增强中间步骤的一致性，我们结合了结果验
PDF2 days ago