ICMLJan, 2022

拍卖设计的上下文整合 Transformer 神经网络

PDF
TL;DR本文主要研究拍卖设计中的核心问题，即开发一种有激励的机制来最大化拍卖人的预期收入，通过将竞标者和物品的共有上下文信息因式分解到拍卖学习框架中，提出了一种上下文整合基于变压器的神经网络，名为 CITransNet，旨在找到非对称的解决方案。经过大量实验，发现 CITransNet 在单一项目设置中可恢复已知的最优解，在多项目拍卖中胜过强大的基准线，并且对训练之外的情况具有很好的概括性。
发现论文，激发创造
  • 拍卖学习作为双人博弈

    本文探讨了拍卖设计中激励兼容的问题，提出了使用神经网络和拉格朗日乘数法来实现优化拍卖的新思路，并将其形式化为双人博弈模型。

    Jun, 2020

  • 用于拍卖设计的置换等变神经网络结构

    通过使用具有置换等变性的神经结构，建立一个新的拍卖设计方法，提高对拍卖设计的预期收益和一般化性能。

    Mar, 2020

  • 深度学习优化拍卖：可微分经济学的进展

    使用深度学习工具，将拍卖建模为多层神经网络，将最优拍卖设计作为约束学习问题，并演示如何使用标准机器学习管道解决此问题。

    Jun, 2017

  • 动态激励感知学习：上下文拍卖中的鲁棒性定价

    本文提出了一种学习策略，通过观察过去的销售数据来设定保留价格，以最小化对收入的后悔，同时本文也探讨了市场噪声分布已知和未知情况下的学习政策和保留价格的设计。

    Feb, 2020

  • 基于神经网络的自动化机制设计

    本文介绍的是一个名为 MenuNet 的神经网络框架，它可以自动化地设计出最优拍卖机制，且在实验中得到的机制都是 incentive-compatible 的，能够在多项收入最优设计中应用，并经过理论证明的机制是最优的。

    May, 2018

  • 神经拍卖：端到端学习用于电子商务广告拍卖的拍卖机制

    该研究提出 Deep Neural Auctions (DNAs) 模型，通过设计可微分模型解决了拍卖机制中的离散排序操作问题，实现了端到端的拍卖学习，提高了基于电商广告的多种性能指标的效果。

    Jun, 2021

  • PreferenceNet: 深度学习中将人类偏好编码于拍卖设计中

    本研究提出了 PreferenceNet，一种基于神经网络的拍卖机制，并利用人类提供的样本对所提出的机制进行了约束编码。同时，该研究引入了一种新的指标来评估拍卖分配的社会可取性，并通过人类主体研究验证了方法的有效性。

    Jun, 2021

  • 面向上下文的语音识别变换器转录器

    本文介绍了一种基于上下文的自动语音识别系统：context-aware transformer transducer (CATT) 网络，通过多头注意力机制、编码上下文数据和使用 BERT 等技术方法，取得了比基线 transformer transducer 和现有深度上下文模型分别提高了 24.2% 和 19.4% 的词错误率性能提升。

    Nov, 2021

  • 针对视觉识别的上下文转换网络

    该论文提出了一种新颖的 Transformer 风格模块，即 Contextual Transformer (CoT) 块，它完全利用输入键之间的情境信息来指导动态注意力矩阵的学习，从而增强了视觉表示能力，可作为更强大的骨干网。

    Jul, 2021

  • 基于目标和上下文感知 Transformer 的高效零样本视觉检索

    该研究提出了一种零样本深度学习架构 TCT（Target and Context-aware Transformer），结合目标和上下文信息进行图像搜索，表现出类人的搜索效率，在具有挑战性的视觉搜索任务中超越最先进的模型，并在具有不协调上下文的不变视觉搜索下展现出灵活的搜索方式。

    Nov, 2022