AAAIDec, 2020

EvaLDA: 针对隐含狄利克雷分配的高效逃避攻击

PDF
TL;DR本文研究了 Latent Dirichlet Allocation（LDA）模型在推理期间是否容易受到对抗性扰动的攻击，并将其形式化为一个 NP 难问题。我们提出了一种新颖高效的算法 EvaLDA 来解决这个问题，并通过广泛的实证评估展示了它的有效性。
latent dirichlet allocationadversarial perturbationsevasion attacksecurity-criticaldocument understanding
发现论文，激发创造
  • 一种高再现性和高准确度的自动化主题分类方法

    通过比较 LDA 和社区检测算法的优缺点，该研究提出一种用于主题发现的新算法，可在英文维基百科大规模文章中展现层次结构，提高文本分析系统的可靠性。

    Feb, 2014

  • 使用深度神经网络从 LDA 模型中学习

    本研究提出了一种使用深度神经网络预测 LDA 模型中潜在主题分布的方法，借鉴了迁移学习的思想，实现了在大大降低计算时间的同时取得较好的分类效果。

    Aug, 2015

  • Peacock: 针对工业应用学习长尾话题特征

    本文提出了一个新的分布式系统 Peacock，以学习大规模的 LDA 主题模型，可以从大规模数据集中推断出至少 10^5 个主题，对于工业搜索引擎和在线广告系统都有显著的提高。

    May, 2014

  • 潜在狄利克雷分配的谱算法

    提出了一种名为 ECA 的学习流程，基于低阶矩的光谱分解，它可以恢复多种混合模型的参数，并在仅使用三元统计时正确恢复主题概率向量和主题优先级，因此具有可扩展性。

    Apr, 2012

  • 基于 Transformer 处理的模糊主题建模新方法

    基于软聚类和文档嵌入的模糊主题建模对比传统的 Latent Dirichlet Allocation（LDA）模型，在新闻发布监测中，得到了更加自然的结果。

    Sep, 2023

  • 信念传播学习主题模型

    该研究提出了一种基于马尔可夫随机场框架下的因子图表示方法，实现了传统信念传播算法对隐含狄利克雷分配模型的近似推理和参数估计，该算法在速度和准确性方面均具有竞争力，并且可以成为基于 LDA 的话题模型的通用学习方案。

    Sep, 2011

  • 监督式主题模型

    介绍了一种新的统计模型 —— 监督潜在狄利克雷分配（SLDA），应用变分方法处理难以计算的后验期望，解决回答类型的多样性并预测新文档的回答数值。与现代正则化回归以及无监督 LDA 分析相比，SLDA 有显著优势。

    Mar, 2010

  • 主题建模中的成员推断攻击和隐私

    最近的研究表明，大型语言模型容易受到侵犯隐私的攻击，推断出训练数据的某些方面。然而，目前尚不清楚是否简单的生成模型（如主题模型）具有类似的弱点。本文提出了一种针对主题模型的攻击方法，可以自信地识别潜在狄利克雷分布中的训练数据成员。我们的结果表明，与生成神经模型相关的隐私风险并不仅限于大型模型。此外，为了减轻这些弱点，我们探讨了差分隐私的主题模型。我们提出了一个框架，将差分隐私词汇选择作为预处理步骤纳入私有主题模型，并展示它在保护隐私方面的改进，对实际效用影响较小。

    Mar, 2024

  • Topic2Vec: 学习主题的分布式表示

    本文提出 Topic2Vec 方法，通过在语义向量空间中学习话题表示来替代概率的 LDA 表示，实验证明该方法取得了有意义的结果。

    Jun, 2015

  • 随机折叠变分贝叶斯推断用于潜在狄利克雷分配

    该研究提出了一种基于折叠变分贝叶斯推断技术的随机算法，能快速准确地从大规模数字文本信息中学习话题模型并与人交互分析。

    May, 2013