将领域知识融入深度神经网络中用于离散选择模型
对于离散选择建模(Discrete Choice Modeling,DCM)与机器学习的交集进行研究,以图像数据整合进 DCM 的效用函数并对其对模型解释性的影响进行探讨。研究发现,神经网络(NN)组件在存在共现情况下,能够从图像中学习和复制表格变量的表达,从而影响了 DCM 参数的解释性。针对这一挑战,文章提出并对两种方法进行评估:通过架构设计调整来隔离冗余信息,以及通过源信息屏蔽和修复来降低同构信息的影响。在半合成数据集上进行的实验表明,尽管架构的修改结果不确定,但直接从数据源进行干预可以更有效地保持 DCM 解释性参数的完整性。文章总结了研究结果在现实世界中的适用性,并讨论了将复杂数据模式相结合的混合建模研究的意义。通过使用 MIT 的道德机器数据集,整合表格和图像数据,并采用学习多项式逻辑(Learning Multinomial Logit,L-MNL)框架,实现了对表格和图像数据完全匹配的控制。
Dec, 2023
本研究提出了一种 “计算机视觉增强的离散选择模型”,可通过集成计算机视觉和传统的离散选择模型,处理包含数值属性和图像的选择任务,从而填补当前离散选择模型与实际行为之间的鸿沟,并应用于一项涉及居住地选择的新型选择实验数据,将离散选择建模与机器学习相结合,为旅游行为领域的文献积累做出贡献。
Aug, 2023
本文研究机器学习在旅行行为建模领域的应用并发现其普遍存在的预测失误和潜在的公平性问题,提出了一种基于绝对相关性规则的算法来解决该问题。
Sep, 2021
离散选择模型与神经网络相比,在预测客户购买概率方面表现得更具表现力、能够捕捉客户异质性和行为,但难以估计且无法捕捉客户行为的许多显著特征。本文首先研究了单个神经网络架构是否能够预测来自不同背景和模型假设下的购买概率。接下来,我们开发了一种适用于现成整数规划求解器的组合优化公式。在模拟和实际数据集上与各种基准离散选择模型进行了比较,同时通过一些训练技巧使神经网络预测及后续优化具备鲁棒性,并能与其他模型相媲美。
Aug, 2023
Developed a probabilistic framework for deep learning based on the Deep Rendering Mixture Model (DRMM), which captures variations in data due to latent task nuisance variables and provides a principled route to the improvement of deep convolutional neural networks (DCNs). The DRMM is a powerful alternative to DCN back-propagation, leading to faster training and achieving superior accuracy in supervised digit classification along with state-of-the-art results on the MNIST benchmark and competitive results on the CIFAR10 benchmark in semi-supervised and unsupervised learning tasks.
Dec, 2016
本研究提出了一种基于深度倒置强化学习的路线选择建模方法,该方法可捕捉复杂关系和不同特征,并能够在交通规划和需求预测领域中应用。通过使用上海的出租车 GPS 数据来验证该模型,实验结果表明,该方法表现出较高的预测性能,甚至能够处理训练数据中未出现的目的地。
Jun, 2022
该研究介绍了一个同时拥有随机实用模型和确定性点过程的特点的确定性选择模型,该模型可以从数据中学习到一系列负面依赖关系,提供了一些关于 LoRa 网络无线干扰的新见解,该模型在子集选择模型、随机实用模型和确定性点过程中产生了应用价值。
Feb, 2023
本文介绍一种使用神经网络学习个体特征下的估价函数参数的离散选择模型。该模型可以生成可解释的行为指标参数,并且在瑞士公共交通数据集上表现良好。
Feb, 2020
本文首次综述了将领域知识作为约束条件融入深度学习 (DL) 学习模型的方法,以提高其性能,并针对深度神经网络提出了五种主要的方法,包括特征空间操作、假设空间修改、数据扩增、正则化策略和受约束的学习。
May, 2020
通过两阶段的概念选择模型(CSM),本研究在观察到概念的长尾分布的基础上,提出了一种无需引入人为先验的核心概念挖掘方法,实验表明该方法在解释性和理解性方面可与黑盒模型相媲美。
Apr, 2024