Dec, 2013

在线贝叶斯被动攻击学习

HTML
PDF
TL;DR本文介绍了一种基于在线贝叶斯主动-侵略性（Bayesian Passive-Aggressive，简称BayesPA）学习的算法，在线PA学习有效地执行最大边缘在线学习，通过引入隐变量和非参数贝叶斯推理，提供了探索性分析的巨大灵活性。我们将BayesPA应用于主题建模，并为最大边缘主题模型导出高效的在线学习算法。我们还开发了非参数方法来解决主题数量问题。实验结果表明，我们的方法显著提高了时间效率，同时保持了与批量对应方法相当的结果。
发现论文，激发创造
  • 主题模型的平滑和推断

    本文探讨了用于高维稀疏计数数据建模的潜在狄利克雷分析或话题模型，比较了多种学习算法，发现主要区别在于应用于计数的平滑量。在优化超参数时，算法性能的差异显著缩小，这使得我们能够选择计算效率高的方法来学习准确的主题模型。

    May, 2012

  • 潜在狄利克雷分配的稀疏随机推断

    本文提出了一种混合算法，将稀疏 Gibbs 采样的效率与在线随机推断的可扩展性相结合，用于分析包含 120 万本书（330 亿词）的语料库，在多个 Bayesian 隐变量模型中具有广泛的推广能力。

    Jun, 2012

  • 随机折叠变分贝叶斯推断用于潜在狄利克雷分配

    该研究提出了一种基于折叠变分贝叶斯推断技术的随机算法，能快速准确地从大规模数字文本信息中学习话题模型并与人交互分析。

    May, 2013

  • 最大间隔非参数潜在特征模型用于链路预测

    本论文介绍了一种利用max-margin learning和Bayesian nonparametrics将判别性潜在特征和非参数潜在特征融合起来进行链接预测的方法，并提供了一种有效的stochastic variational inference算法以及贝叶斯公式，以避免调整正则化超参数。

    Feb, 2016

  • 具有分层皮特曼-约尔过程的非参数贝叶斯主题建模

    本文介绍了用于构建层次化非参数贝叶斯模型的狄利克雷过程及其扩展——皮特曼-约尔过程，提出了用于文本分析的潜变量模型。重点介绍了一种通用的贝叶斯模型设计框架，并提出了一种具体的非参数贝叶斯主题模型，用于对社交媒体上的推文进行建模。实证研究表明，我们的模型在适应度和现实应用中都优于现有的参数模型。

    Sep, 2016

  • 基于随机目标函数的贝叶斯模型非参数学习

    提出了一种基于贝叶斯非参数方法的、不需要假定模型真实的学习方法，该方法利用统计模型但不要求模型真实，并且具有比参数模型更好的性质，并可通过蒙特卡罗采样方案在现代计算机架构上实现大规模计算。

    Jun, 2018

  • 基于在线离线实验的策略搜索贝叶斯优化

    使用离线模拟器并应用多任务贝叶斯优化改进在线机器学习系统的方法，较之仅进行在线实验，能够更有效地探索复杂、多维度的策略空间，并通过学习曲线表明离线实验可以显著提高在线实验结果的准确性和优化速度。

    Apr, 2019

  • SimLDA：主题模型评估工具

    本文介绍了一种新的变分信息传递算法，名为ALBU，用于在有限数据情况下识别LDA模型中的方面，并在推特和新闻组数据集上与VB算法进行比较，展示ALBU算法在小型数据集表现出更高精度的潜在分布学习能力。

    Aug, 2022

  • 克服在线学习排名中的先验错误规定

    在线学习排序的领域，Bayesian ranking bandit algorithms已被证明可以使用先前的知识来提高效能。本文提出并分析了自适应的算法，解决了现有工作需要匹配真实先验的主要局限性，并将这些结果扩展到线性和广义线性模型。此外，我们还考虑点击反馈措施，并通过合成和现实世界实验证明了我们算法的有效性。

    Jan, 2023

  • 一种非参数贝叶斯方法用于在线活动预测

    通过贝叶斯非参数方法预测用户活跃数量及所需的时间轨迹，以实现实验规划和干预效果的准确预测。

    Jan, 2024