latent concepts | BriefGPT - AI 论文速递

关键词latent concepts

搜索结果 - 9

ACL共享跨语言空间中的对齐探索
利用聚类方法探索多语言模型中的潜在概念，研究多语言嵌入之间的对齐和重叠程度，通过引入两个度量指标 CA 和 CO 进行定量分析，发现网络的深层对齐性较好，模型的微调增强了潜在空间中的对齐性，任务特定的校准有助于解释模型的零射击能力的出现。
PDFa month ago
基于潜在概念的自然语言处理模型解释
通过引入潜在概念归因方法（LACOAT），该研究针对深度学习模型的预测提供了基于潜在概念的解释，解决了由于词语离散性和缺乏语境信息而导致的以往解释的不充分问题。
PDF3 months ago
迈向生成式抽象推理：通过规则抽象和选择完成 Raven's Progressive Matrix
提出了一种基于条件生成模型的解答生成方法，通过使用潜在空间中的规则抽象和选择（RAISE）来编码图像属性、分解潜在规则，并在生成答案时选择适当的原子规则，以解决 Raven's Progressive Matrix（RPM）中的抽象视觉推理
PDF6 months ago
超越规模：多样性系数作为数据质量度量展示 LLMs 是在形式多样的数据上预训练的
研究发现使用 Task2Vec diversity coefficient 可以衡量预训练数据集的多样性，该多样性与潜在概念的数量成正比，且可用于构建有用的多样化预训练数据集。
PDFa year ago
LLMs 是否可以促进预训练语言模型的解释？
利用 ChatGPT 作为注释器，我们在预训练语言模型中发现潜在概念，并采用 GPT 注释进行注释。我们的发现表明，与人类注释概念相比，ChatGPT 产生了准确且语义更丰富的注释。此外，我们展示了 GPT-based 注释如何增强解释分析
PDFa year ago
ACLNxPlain：一款用于发现潜在概念的基于 Web 的工具
NxPlain 是一个通过深度学习模型中的潜在概念来解释和调试模型预测的 Web 应用程序。用户可以通过全局语料库和本地句子级视图浏览有用的潜在概念，特别适用于消除模型偏差和突显混杂关联。
PDFa year ago
文本控制视觉模型的概念代数
本文介绍了一种基于隐藏概念的推理形式，以解决文本生成模型的指导控制问题，并提出了概念代数解决了由于提示带来的限制问题。
PDFa year ago
ICLR发现 BERT 学习的潜在概念
此文探讨深度神经网络模型中学习的潜在观念，以及与传统的语言学层次的对比分析，并发现存在偏见的潜在观念并提供数据集（BCN）支持这些结论。
PDF2 years ago
KDD在流式张量分解中识别和缓解概念漂移
本研究介绍了一种名为 SeekAndDestroy 的算法，用于检测流式张量分解中的概念漂移，并能够使结果对漂移不敏感。该算法在合成数据集和真实数据集上进行了广泛的评估，证明了其检测概念漂移和缓解其影响的有效性，同时发现了一些新的有用组件。
PDF6 years ago