Oct, 2023

Transformer Choice Net: 选择预测的 Transformer 神经网络

PDF
TL;DR本文提出了一种适用于预测多个选择的 Transformer Choice Net 转换神经网络架构，在一系列基准数据集上，该架构相对于文献中的主流模型展现出了一致的优秀的预测性能，而不需要对每个实例进行定制建模或调整。
discrete-choice modelsmultinomial logitprobitmixed-logittransformer neural network
发现论文，激发创造
  • 基于神经网络的商品组合优化选择模型

    离散选择模型与神经网络相比，在预测客户购买概率方面表现得更具表现力、能够捕捉客户异质性和行为，但难以估计且无法捕捉客户行为的许多显著特征。本文首先研究了单个神经网络架构是否能够预测来自不同背景和模型假设下的购买概率。接下来，我们开发了一种适用于现成整数规划求解器的组合优化公式。在模拟和实际数据集上与各种基准离散选择模型进行了比较，同时通过一些训练技巧使神经网络预测及后续优化具备鲁棒性，并能与其他模型相媲美。

    Aug, 2023

  • 利用指针网络的深度选择模型预测航空行程

    本文介紹了一種基於 Pointer Networks 的新型選擇模型，並使用深度學習技術結合 Recurrent Neural Networks 和 Attention Mechanism 來學習給定多個選擇時如何選擇最可能被顧客選擇的路線。與傳統的 MNL 模型相比，實驗結果顯示該模型在多個指標上表現優異。

    Mar, 2018

  • 用自注意力建模选择

    通过引入自注意力的神经网络结构，本研究提出了第一个成功利用现代神经网络概念的选择模型，理论和实践都证明了该模型相对于现有模型在实际数据上更具优势。

    Nov, 2023

  • 深度神经网络消元选择

    本文介绍了一种名为 Neural Choice by Elimination 的新框架，将深度神经网络集成到概率顺序选择模型中，用于学习排名。该框架集成了最近引入的 Neural Highway Networks 以近似任意复杂的排名函数，证明了本方法在大规模公共数据集上具有与最先进的学习排序方法相竞争的性能。

    Feb, 2016

  • 神经嵌入式选择模型：使用 Flexibility 和 Interpretability 对 TasteNet-MNL 进行建模，以建模 Taste Heterogeneity

    本文介绍一种使用神经网络学习个体特征下的估价函数参数的离散选择模型。该模型可以生成可解释的行为指标参数，并且在瑞士公共交通数据集上表现良好。

    Feb, 2020

  • 离散选择模型与广义可加性效用网络

    离散选择模型是一个强大的框架，用于分析决策行为，为决策者和企业提供有价值的洞察。GAUNet 是一种基于广义可加模型的神经网络结构的效用函数，用于离散选择模型。在东京的旅行调查数据上，我们的模型与 ASU-DNN 在准确性上相当，并且相对于以前的模型在解释性上有所改善。

    Sep, 2023

  • 通过四个实验探针理解基于 Transformer 的语言表示模型中的先验偏差和选择瘫痪

    本文研究了基于 transformer 的神经网络在自然语言理解方面的多项选择问题，主要针对先验偏差和选择麻烦等问题做了四项混淆测试，并表明该模型在应对这些问题时表现出明显的偏差和选择麻烦，建议需要进一步增强测试协议和基准测试以确保语言模型在面向实际决策的系统中得到合理的应用。

    Oct, 2022

  • TransNets：学习转换以进行推荐

    本文介绍了一种使用深度学习方法改进推荐系统表现的模型 - DeepCoNN，即使用神经网络学习目标用户所有评论的一个潜在表示形式，第二个潜在表示与目标物品的所有评论文本匹配，将这些表示组合起来，同时介绍了一种名为 TransNets 的模型，它通过引入表示目标用户 - 目标项目对的额外潜在层来扩展 DeepCoNN 模型，并通过训练时间对此层进行规化，使其类似于目标用户评论的潜在表示，证明 TransNets 及其扩展显着提高了之前的最新状态。

    Apr, 2017

  • 选择模型与置换不变性

    本文介绍了一种基于非参数估计的选择模型，该模型使用神经网络逼近各种现有选择模型，并扩展到包括对内生特征的估计，同时介绍了一种有效的置信区间构建方法，使用真实数据进行了实证分析，并验证了其在实际应用中的可行性。

    Jul, 2023

  • 序列决策的大规模序列模型：一项调查

    该论文综述了基于 Transformer 的序列模型在解决序列决策问题、加强学习等方面的应用，分类讨论了不同的应用方式，并提出了未来研究的潜在方向，包括理论基础、网络架构、算法和高效训练系统。

    Jun, 2023