large-scale language model | BriefGPT

关键词large-scale language model

搜索结果 - 10

CVPR2024 多模态算法推理任务 SMART-101 挑战解决方案
在本论文中，介绍了 HYU MLLAB KT 团队解决 SMART-101 CVPR 2024 Challenge：多模态算法推理任务。为了解决这个问题，我们提出了两个主要思路：利用大规模语言模型 (LLM) 的推理能力，将给定的视觉线索
PDF22 days ago
Unicron: 大规模经济化自愈 LLM 训练
Unicron 是一个用于大规模语言模型训练的高效自愈工作负载管理器，在一个 128-GPU 分布式集群上的实际部署中，它展示了与最先进方法相比高达 1.9 倍的训练效率提升，显著降低了故障恢复成本，并提高了大规模语言模型训练的可靠性。
PDF6 months ago
EduChat：基于大规模语言模型的智能教育聊天机器人系统
EduChat 是一个基于大规模语言模型（LLM）的教育领域聊天机器人系统，旨在支持个性化、公平、有爱心的智能教育，为教师、学生和家长提供支持。它通过在教育语料库上进行预训练来学习领域特定知识，并通过在设计的系统提示和指令上进行微调来刺激各
PDFa year ago
ChatMOF: 用于预测和生成金属有机框架的自主人工智能系统
ChatMOF 是一个自主的人工智能系统，利用大规模语言模型（gpt-3.5-turbo）来预测和生成金属 - 有机框架。研究探讨了在材料科学中使用大型语言模型的优点和限制，并展示了其对未来发展的变革潜力。
PDFa year ago
SOCRATIC QUESTIONING 的艺术：利用递归思维和自问自答进行零样本多模态推理
本研究提出了 Socratic Questioning 算法，该算法模拟了人类在解决复杂问题时分治的思维过程，并应用于视觉问答任务，取得了在三个公共基准数据集上都显著超过对照组的性能提升。
PDFa year ago
Mobile-Env：一种通用的移动交互训练和评估平台
本研究介绍了一个针对信息用户界面交互（InfoUI）的新平台 Mobile-Env，基于该平台构建了一个任务集并通过一个基于大规模语言模型（LLM）的代理进行了实验，结果表明 LLM 在文本理解和匹配方面具有很大的潜力，同时揭示了需要更好的
PDFa year ago
EMNLP针对对话响应选择任务的基于提示的负面响应生成
本研究提出了一种使用大规模语言模型生成对抗性负面响应的简单而高效的方法，用于提高在检索式对话系统中响应选择模型的识别能力，并证明其在对话选择任务中优于其他对抗性负面响应合成方法。
PDF2 years ago
EMNLP语言理解任务中语言知识融合的经验重访
在 GLUE 基准测试中，通过使用平凡的图表进行任务处理，可以实现具有竞争力甚至更好的性能，并揭示出增益可能不是明确的语言先验，而是由融合层带来的更多特征交互。因此，我们呼吁注意未来使用平凡的图表作为必要的基线来设计高级知识融合方法。
PDF2 years ago
带多限制条件的文本生成连续优化控制
提出了一种名为 MuCoCO 的算法，通过将编码过程转化为优化问题，并通过拉格朗日乘数法和梯度下降技术生成期望的文本，从而实现对预训练模型生成文本属性的控制。在可控机器翻译和风格转移方面的实验表明，该方法显著优于基准模型。
PDF3 years ago
ACL渐进式 BERT 训练中的 Transformer 增长
本文旨在通过对 Transformer 增长的探索来指导渐进式训练，发现复合缩放方法可以平衡模型的深度、宽度和输入的长度，并通过比较实验探索每个维度的替代增长操作，最终使 BERT 的预训练加快 73.6％（基本模型）和 82.2％（大模型
PDF4 years ago