- 输入特征归因分析的统一框架
机器学习模型的决策过程解释对于确保其可靠性和公平性至关重要。我们提出了一个统一框架,通过四个诊断属性实现了突出和交互式解释的直接比较,并揭示了不同诊断属性方面各解释类型的优势。突出解释对模型预测最为忠实,而交互式解释对于学习模拟模型预测提供 - 为何 “问题” 预示着积极情感?情感分类中解释令人费解的特征的案例研究
通过解释感情分类中具有预测能力但令人费解的特征,我们提出了自动检测这些特征并生成解释帮助用户理解其预测能力的方法。众包研究结果表明我们的方法能够有效地检测和解释感情分类中具有预测能力但令人费解的特征。
- 基于谱神经网络的自动输入特征相关性
提出了一种使用谱重参数化来估计深度神经网络输入组件相对重要性的新方法,通过挑战合成和真实数据表明其有效性。
- 当关系比概念更能说明问题:用 CoReX 探索和评估分类器的决策
本研究提出了一种基于概念和关系的解释方法(CoReX),用于解释和评估卷积神经网络(CNN)模型,以及支持识别和重新分类错误或模糊分类。
- 旋转设备状态监测功能设计
该文提出一种通过直方图理论设计 / 提取输入特征的新算法,将不同的时间序列传感器数据的特征提取过程统一起来,用于机器状态识别,结果表明该方案对于预测机器健康状态具有显著效果。
- 基于神经网络的机器学习中的最佳特征缩放
该论文提出了一种新的方法,利用遗传算法对输入特征进行最佳重新缩放,从而提高前馈神经网络的训练效率和泛化性能,并通过多次尝试初始化第一层权重,实现了全局搜索算法,从而促进了全局最小值的实现。
- 从回归测度中检测动态状态的机器学习方法
通过机器学习方法和非线性时间序列分析,我们利用循环度量对时间序列产生的各种动力学状态进行分类,并使用逻辑回归、随机森林和支持向量机这三种机器学习算法进行研究。我们的输入特征来自非线性时间序列的循环量化和相应循环网络的特征度量。通过从标准非线 - FATE: 基于 Transformer 的特征无关编码器用于学习流式细胞仪数据中的广义嵌入空间
通过学习一种通用的嵌入空间,我们提出了一种新型架构,能够直接处理具有不同特征集合的数据,从而实现对异构特征空间数据的共享潜在特征空间的学习。该模型的优势在于能够在不一致的特征空间中无缝操作,特别适用于数据稀缺的情况,例如急性髓性白血病流式细 - 大型语言模型实现少样本聚类
本文研究了大语言模型在半监督聚类中改善聚类效果的应用方法,发现在输入特征和聚类过程中加入大语言模型可以获得显著的聚类效果改进,同时可以帮助用户在精度和成本之间进行权衡,实现所需聚类。
- AAAI通过端到端解释深入理解概念瓶颈模型
本文研究对于 Concept Bottleneck Models(CBMs)中的输入特征与概念向量之间的关联性,以及如何使用 Layer-wise Relevance Propagation(LRP)、Integrated Gradient - ICLRDBQ-SSD: 动态球查询用于高效的三维物体检测
该研究提出一种自适应选择输入点子集并分配合适的感受野的网络以显著减少计算成本,应用于一些最先进的 3D 探测器中,并在 KITTI,Waymo 和 ONCE 数据集上将推理速度提高了 30%-100%。
- 通过贡献合作者选择加速 Shapley 解释
提出了一种新方法 SHEAR 来显著加速 DNN 模型的 Shapley 解释,其选择的输入特征 coalitions 遵循了 Shapley 链规则来最小化绝对误差,从而使计算既高效又准确。实验结果表明,SHEAR 在绝对误差、解释的忠诚 - ACL信息量和不变性:自然语言中伪相关性的两个观点
该论文分析了 Gardner 等人提出的语言的组合性质意味着标签和各自的‘输入特征’之间的所有相关性都是虚假相关性这一提议,在简单的 PCFG 中演示出三种明显的条件可以导致特征 - 标签相关性的产生,论文指出在所有但极少数情况下,输入特征 - CVPR解释能否解释?模型最懂
提出了一种通过神经网络模型本身来评估特征归因方法的框架,使用神经网络生成关键特征来评估各种归因方法的一致性和局限性。
- 通过识别具有预测信息的输入特征进行细粒度神经网络解释
该研究提出一种通过在神经网络输入域上引入瓶颈层,精细地识别输入特征信息的方法,用以衡量输入特征的重要性和网络预测的相关性。研究表明该方法对网络结构不敏感,并结合主流的特征归因方法进行了评估。
- Zorro: 图神经网络中有效、稀疏且稳定的解释
本文针对图神经网络的解释方法提出了一些基本原则,并提出了一种基于率失真理论的优化方法 Zorro 来优化解释的质量,实验表明该方法相对于现有方法在稀疏性、稳定性和准确性方面均有所提高。
- 什么塑造了特征表示?探索数据集、体系结构和训练
研究自然学习问题中的特征选择,发现训练后任务相关的特征增强,任务无关的特征部分抑制,容易的特征对模型具有更大的一致性和代表性,并且对未经训练的模型具有更大的相似性。
- ACL理性文本匹配:通过最优传输学习稀疏对齐
使用最优传输方法对文本匹配进行有选择的说明性解释,结果产生高度稀疏的对齐,并具有与强注意力基线模型相当的预测准确度。
- 超解释揭示图像分类模型的病态
该研究发现,高得分的卷积神经网络在流行的基准测试中显示出令人担忧的病理现象,使它们即使在缺乏语义明显特征的情况下也能显示高准确度,这被称为过度解释其输入。研究提出了一种新的方法来发现复杂数据集的足够输入子集,并使用该方法显示 ImageNe - 从聚类到聚类解释的神经网络方法
提出基于神经网络和聚类模型的可解释 AI 框架,能够对数据的簇分配进行高效和可靠的解释,并且从分析数据和表示中提取新的见解。