- ACL混淆:大型语言模型产生的惊人价值
该研究论文从语义学的角度探讨了大型语言模型(LLM)的虚构现象或 ' 混淆 ',并认为这些混淆可能作为一种潜在资源而非负面弊端。研究结果表明,LLM 的混淆具有较高的叙述性和语义一致性,可能与连贯的叙事性文本生成的积极能力紧密相关。
- 为实际手动任务生成连贯的视觉插图序列
通过将潜在扩散模型与大型语言模型结合,我们提出了一种生成一致图像序列的方法,用于配合多步骤的指南,并在人类参与实验中被 46.6% 的人选择为最佳方法,同时自动评价指标表明该方法在两个领域中能够维持语义连贯性和视觉一致性。
- 自然语言处理依赖于语言学
大型语言模型(LLMs)在某些语言中已经能够生成高度流畅的文本,而无需专门设计用于捕捉语法或语义连贯性的模块。对于自然语言处理中语言专长的未来意味着什么?我们强调几个方面,其中 NLP(仍然)依赖于语言学,或者语言学思维可以阐明新的方向。我 - 一个基于词显著性的修改式对抗攻击文本分类模型的方法
本研究提出了一种新颖的针对文本分类模型的对抗攻击方法,即修改的基于词显著性的对抗攻击(MWSAA)。该技术利用词显著性的概念,有针对性地扰乱输入文本,旨在误导分类模型,同时保持语义连贯性。通过改进传统的对抗攻击方法,MWSAA 在逃避分类系 - 拯救英雄伊巴什的遗产:评估四个语言模型对氨基酸的作用
本研究在未开发充分的氨基酸语言中评估了四个前沿的语言模型,通过评估研究它们在文本生成、语义连贯性和情境理解中的适应性、有效性和局限性。通过揭示这些模型在低资源语言中的性能,这项研究开创了弥合语言差距的途径,通过提供基准并了解挑战,为自然语言 - 基于知识选择的主题到文章生成
通过引入富语义知识的内容选择模块和改进的前缀调整方法,提出了一种新型的复制机制模型,用于改进语义相干性、生成多样性和主题一致性,并且在 TGE 任务上的实验结果表明,与现有方法相比,提出的模型可以提高生成文本的多样性 35%至 59%,同时 - 提升布局到图像合成的对象连贯性
我们提出了一种新颖的扩散模型,通过全局语义融合和自相似特征增强模块来引导对象的一致性,并采用自相似性一致性注意模块来显式地将局部背景一致性整合到每个像素的生成过程中。实验结果表明,该方法在图像生成质量和可控性方面具有优势。
- PELMS:面向高效低样本多文档摘要的预训练
我们研究了用于抽象多文档摘要的预训练技术,提出了一种名为 PELMS 的预训练模型,使用基于语义连贯性和忠实度约束的目标函数,在无标签的多文档输入上促进简洁、流畅和忠实的摘要生成。通过对超过 9300 万个文档组成的 300 多万个无标签主 - EMNLP通过增强一致性建模改进长文档主题分割模型
通过对主题感知句子结构预测(TSSP)和对比语义相似度学习(CSSL)的改进,本文提升了监督模型从结构和相似性两个角度捕捉一致性的能力,进而进一步改善主题划分性能。
- 自由开花:具有 LLM 导演和 LDM 动画师的零样学文本至视频生成器
免费盛开通过利用大型语言模型作为导演以生成语义连贯的提示序列,同时利用预训练的潜在扩散模型作为动画师生成高保真度的帧,以确保时间和相同的连贯性和保持语义连贯性,而无需任何视频数据和培训要求。
- 语言 Transformer 中的解码器层显著性解读
我们介绍了一种在应用于分类任务的大规模语言模型中识别文本显著性的策略。我们采用了渐变基础的显著性方法,并提出了一种评估每一层语义一致性程度的方法,在多个基准分类数据集上展示了相对于其他方法的一致性改进。我们的方法不需要额外的训练或标记数据, - 医学语义辅助变压器模型用于放射学报告生成
本文提出了一种利用稀疏注意力块和双线性池化捕捉细粒度图像特征之间高阶交互的记忆增强型稀疏注意力块,并引入新颖的医学概念生成网络来预测细粒度语义概念,并将其作为指导结合到自动生成医学报告的过程中,最终在 MIMIC-CXR 及图像字幕生成和医 - AAAI学习为实体链接选择下一个合理提及
文献中提出了 DyMen 模型,使用强化学习动态调整实体链接过程中的链接目标,以充分利用先前链接的信息,并通过滑动窗口抽样以维持提及的语义一致性。在多个基准数据集上的实验结果表明,该方法的有效性。
- 增强主题连贯性的基于预训练 Transformer 的神经文本分割模型
本文提出了一种名为 Transformer$^2$ 的基于 transformer 的 transformer 框架,用于进行神经文本分割,并在实验中证明了其在语义一致性方面的优越性。
- ICLR广义多模态 ELBO
本论文提出了一种新的广义 ELBO(证据下界)公式,用于多模态数据的无监督生成模型,解决了现有方法中语义连贯性和能力之间的平衡问题,并在实验中展示了方法相对于现有技术的优势。
- 由语义和纹理的连贯性先验引导下的图像修复
本文提出了一种基于语义和纹理的一致性先验的图片修复方法,采用多尺度联合优化框架,通过 Semantic-Wise Attention Propagation 模块和两个一致性损失函数对图像语义和纹理进行逐层完善,在填补涉及多个语义类别的空洞 - 基于语义一致性的自监督单视图 3D 重建
我们提出了一种自监督的,单视图三维重建模型,通过 2D 图像和物体的轮廓预测目标物体的 3D 网格形状、纹理和相机姿势,该方法不需要三维监督,手动注释的关键点,物体的多视图图像或先前的 3D 模板,通过自监督地学习分类特定图像的部分分割,我 - BERT 作为一个分布式语义模型的评估
本文研究了语境化单词嵌入,并集中讨论了 BERT 这一深度神经网络,该网络产生了语境化的单词嵌入并在多个语义任务中创下了最好的记录,并研究了其嵌入空间的语义一致性。该文章表明,BERT 具有一定的语义一致性,但并未完全符合语义向量空间的自然 - 使用自我对战近似交互式人类评估的开放域对话系统
本文提出一种交互式的人工评估对话质量的方法,并介绍了一种基于自我对话的度量方式,该方式可以更好地捕捉对话模型的质量,同时使用了情感和语义连贯性等维度。通过对多个模型的实验比较,研究表明,这种度量方式优于目前已知的所有自动化方法,同时也优于静 - 衡量对话的语义连贯性
介绍一个新任务:测量基于背景知识的语义相 (不) 一致性,在 Ubuntu Dialog Corpus 上使用知识图谱、矢量空间嵌入和单词嵌入模型提出和评估基于图形和机器学习的方法来测量语义的一致性,并展示了这些方法能够发现对话中的不同一致