language understanding | BriefGPT

关键词language understanding

搜索结果 - 105

设计投入应用于多元世界观的 NLP 系统
自然语言推理（NLI）是评估人工智能语言理解的基础。我们认为，现有模型在模糊的例子上失败并且表现出差劲的泛化能力，这是由于忽视了意义的主观性，它与个体的世界观密切相关。我们提出了一种观点主义的方法：构建捕捉注解者人口统计、价值观和标签理由的
PDFa month ago
Invalsi 基准：测量意大利中文数学和语言理解的语言模型
通过许多模型的评估，研究表明：目前意大利语存在着缺乏针对该语言的预训练语言模型的现象，从而导致意大利语的语言模型评估数据较少。该研究提出了两个基于 11 至 18 岁学生在意大利学校系统中进行的真实测试的评估基准，经多位教学和教育专家验证。
PDF3 months ago
Gemma：基于 Gemini 研究和技术的开放模型
Gemma 是一种轻量级的、最先进的开放模型系列，从用于创建 Gemini 模型的研究和技术中构建而来。Gemma 模型在语言理解、推理和安全性等学术基准测试中表现出强大的性能。我们发布了两个规模的模型（20 亿和 70 亿参数），并提供预
PDF4 months ago
预训练的结构化生成变换器：规模化的无监督句法语言模型
使用大规模预训练结构转换器的句法语言模型（SLM），通过从头开始在原始文本上进行高并行度的无监督训练，弥补了以前的 SLM 存在的限制，如依赖于黄金树和顺序训练。同时，我们介绍了一个表示替代方法，以在硬 EM 方式下联合并行训练模型，证明了
PDF4 months ago
基于 Mistral 的大型马来西亚语言模型用于增强本地语言理解
本研究介绍了在 32.6GB 数据集上对 Mistral 7B 进行预训练的重要进展，研究中探索了扩展上下文长度的影响，发布了具有 4096 和 32768 标记的上下文长度模型，并通过专门调优的 16384 标记的上下文长度模型 ——Ma
PDF5 months ago
社交媒体数据选择的生成式去重
使用生成复制技术解决社交媒体数据中存在的冗余问题，提高语言理解性能并节省训练时间。
PDF6 months ago
Uni3DL: 三维和语言理解的统一模型
Uni3DL 是一个统一的 3D 和语言理解模型，它运用于点云而不是传统的多视图图像，实现了对多种 3D 任务的支持，包括语义分割、目标检测、实例分割、视觉定位、3D 字幕和文本 - 3D 跨模态检索，并且在性能上超过了最先进的特定任务模型
PDF7 months ago
EMNLP无所依托的 LLMs 中的知觉结构：抽象性和主观性在颜色语言中的影响
语言理解中的基础是一个活跃的研究领域。以颜色感知和颜色语言为研究基础，通过实证研究发现，颜色空间和语言模型定义的特征空间之间存在相当大的一致性。通过收集包含近 100 万个颜色及其描述的大规模数据集，进行两种对齐方式的实证分析：（i）跨空间
PDF7 months ago
迷你心智：探索 Bebeshka 和 Zlata 婴儿模型
在这篇论文中，我们描述了 Lyon 2 大学参加 BabyLM 竞赛 Strict-Small 赛道的情况。我们采用架构搜索的方法，在数据集上最小化掩码语言建模损失，并引入了两种小型语言模型进行评估。尽管比基准模型规模小一半，我们的模型性能
PDF8 months ago
EMNLP关于一般语言理解
自然语言处理领域对于意义和测量的问题进行了实证研究，本文勾勒了一种理解模型，用于评估当前模型质量测量方法的适应性，并指出不同语言使用情境类型的特点、语言理解是多方面现象，以及理解指标的选择标志了对基准测试和语言处理伦理的考虑的开端。
PDF8 months ago
GPT-4V（视觉）的早期评估
GPT-4V 的能力和限制在视觉理解、语言理解、视觉拼图解决以及其他模态（如深度、热力、视频和音频）方面被评估，发现其在英语视觉基准上表现出色，但无法识别图像中的简单中文文本；在敏感特征问题、语言理解任务和类似图片之间差异的解决方面存在一些
PDF8 months ago
通过 WordNet 层次结构评估文本到图像模型的上义词理解
使用自动度量标准，评估了文本到图像模型在语言理解方面的能力，发现模型在理解词语间的超类关系以及部分词语的绘制上存在局限性。
PDF9 months ago
EMNLP确立可信度：重新思考任务和模型评估
语言理解是一个多方面的认知能力，自然语言处理（NLP）领域几十年来一直致力于计算化建模。最近大型语言模型（LLMs）的出现，使得以生成模型为动力的通用性、任务无关的方法成为主流，这导致了语言任务传统上的划分不再适用，带来了对评估和分析的挑战
PDF9 months ago
连接大型语言模型与进化算法产生强大的提示优化器
通过连接大型语言模型和进化算法，本论文提出了一种用于离散提示优化的新框架 ——EvoPrompt，极大地提升了语言理解和生成任务中大型语言模型的表现，并展示了语言模型与传统算法结合的协同效应。
PDF9 months ago
ICML自适应的以用户为中心的神经符号学习对自主系统进行多模态交互
通过深度学习使自主系统能够在感知的亚符号方式下逐渐理解对象及其环境，执行对象检测、传感器数据融合和语言理解任务。为了实现强大的人工智能，我们需要考虑人类提供的显式教学和通过观察人类行为获得的隐式教学，同时设计多模态输入和输出能力的系统以支持
PDF10 months ago
用语言学习建模世界
为了与人类进行互动，代理机构需要理解人们使用的各种语言类型，将其与视觉世界联系起来，并根据这些语言进行行动。本文提出了 Dynalang，这是一种代理机构，它学习了一个多模态世界模型，预测未来的文本和图像表示，并学会根据想象的模型展开行动。
PDFa year ago
基于提示的微调总是比基本微调更好吗？来自于跨语言理解的洞见
本文提出 ProFiT 管道，研究 Prompt-Based Finetuning 的跨语言能力，发现在语言理解中 Prompt-Based Finetuning 的效果和适用性优于 Vanilla Finetuning，且在少样本场景下表
PDFa year ago
关于意义计算模型的研究：具身认知与情感交织
探索词语的意义以及儿童语言习得对语言理解模型的影响，重点关注在儿童语言学习环境中具体和抽象概念的知觉和行动能力，以及情感和认知与语言学习过程的关系，为类似于儿童环境下学习语言的语言学习代理提出一些要求。
PDFa year ago
机器为什么不理解：对 Søgaard 的回应
一些所谓 `人工智能 ' 的辩护者认为机器可以理解语言。特别是，Søgaard 在这篇论文中提出了这样的论点，即（1）哪里有语义，就会有理解，（2）机器不仅能够进行所谓的` 推理语义 '，甚至可以（通过传感器的输入帮助）` 学习 ' 指称语
PDFa year ago
语言模型不抗拒否定：对否定基准测试的分析
本研究针对 LLMs，比如 BERT、GPT-neo、GPT-3 和 InstructGPT 等不同模型，通过实验验证了它们在处理否定句时的局限性，包括对否定句的敏感性不足、无法捕捉词汇语义的否定表述以及在否定条件下推理的失败。
PDFa year ago