BriefGPT.xyz
Ask
alpha
关键词
causal abstraction
搜索结果 - 6
线性结构因果模型的因果抽象学习
采用线性因果模型的线性抽象函数，本研究首先确定了低级系数和抽象函数如何决定高级系数，以及高级模型如何约束低级变量的因果顺序；然后，通过观测数据学习了高级和低级因果模型及其抽象函数，并提出了一种名为 Abs-LiNGAM 的方法，利用所学高级
→
PDF
a month ago
抽象因果最优输运
本研究提出了第一种从观测和干预数据中学习抽象映射的方法 COTA，通过引入多边际最优传输和干预信息的成本函数，实现了对多个粒度的结构因果模型进行关联的方法，并证明了其在合成和真实世界问题中的优势以及作为数据增强工具的高效性。
PDF
7 months ago
规模上的可解释性：在 Alpaca 中识别因果机制
本文介绍了基于因果抽象的分布式对齐搜索方法（Distributed Alignment Search，DAS），通过替换搜索过程并训练参数，能够高效地在大型语言模型中搜索可解释的因果结构。在应用 DAS 于 Alpaca 模型时，我们发现它
→
PDF
a year ago
在可解释因果变量和分布式神经表示之间找到对齐
本文介绍了一种名为分布式对齐搜索（DAS）的方法，它使用梯度下降来找出高层和低层模型之间的对齐，并允许单个神经元在非标准基中扮演多个不同的角色，从而发现了其他方法所错过的内在结构，为进行因果抽象分析消除了前期的限制。
PDF
a year ago
用因果抽象进行忠实的模型解释
本文提出因果抽象理论作为高层次的 AI 模型解释的数学基础，使用因果抽象分析来确定可解释的高层次因果模型是否忠实反映了 AI 模型的行为和内部结构，同时我们还定义了近似因果抽象的概念以度量高层次因果模型对底层模型的抽象程度，并将 LIME、
→
PDF
a year ago
软干预引发的因果抽象
本文提出了将因果抽象扩展到软介入，通过将非常量函数分配给变量，而不添加新的因果关系来增强因果抽象。具体而言，我们将 $ au$- 抽象从 Beckers 和 Halpern（2019）推广到软介入，并提出了进一步的软抽象定义来确保软介入之间
→
PDF
2 years ago
Prev
Next