Mar, 2024

基于 LSTM 的文本生成：关于历史数据的研究

PDF
TL;DR该论文探讨了在文本生成中应用长短期记忆（LSTM）网络，重点关注历史数据集在莎士比亚和尼采作品中的应用。研究表明，在历史数据集上训练的基于 LSTM 的模型不仅可以生成语言丰富且相关的文本，还能提供语言模式随时间演化的见解。该研究为自然语言处理领域做出了贡献，展示了 LSTM 网络在文本生成中的多样性，并为历史语言学及其他领域的未来探索提供了途径。
long short-term memorylstm networkstext generationhistorical datasetslanguage patterns
发现论文，激发创造
  • 可视化和理解循环网络

    使用字符级语言模型作为可解释的测试平台，本研究分析了 LSTM 的表示、预测和错误类型，并揭示了其提高性能的长程结构依赖性的来源。

    Jun, 2015

  • 增强金融数据可视化以便于投资决策

    利用 LSTM 网络预测股票动态，主要关注细微的涨跌模式，结合纽约证交所的数据集，改进 LSTM 模型以捕捉复杂的市场模式，进而提高股票价格预测的准确性。

    Dec, 2023

  • LSTM 网络基准测试

    该技术报告描述了使用 MNIST 和 UW3 数据库对 LSTM 网络进行基准测试的结果，并探讨了不同架构和超参数选择对性能的影响。该研究表明：（1）LSTM 性能平滑地取决于学习率，（2）批处理和动量对性能没有显着影响，（3）softmax 训练优于最小二乘训练，（4）孔径单元无用，（5）标准非线性函数（tanh 和 sigmoid）性能最佳，（6）将双向训练与 CTC 相结合比其他方法表现更好。

    Aug, 2015

  • 基于 LSTM 的情感分析模型在社交媒体上的稳定性

    本文介绍 LSTM 深度学习模型在情感分析中的应用，探讨其关键参数及模型稳定性问题。

    Nov, 2022

  • 使用 LSTM 生成音乐

    使用 LSTM 网络在音乐生成中得到了初步的应用，该方法是一种在深度学习中具有广泛应用的序列建模方法。

    Mar, 2022

  • 学习执行

    在进行短程序评估方面，实验评估了 LSTM 在序列到序列范式中的表现和可学习性，并使用课程学习来提高网络性能，结果表明 LSTM 可以以 99% 的准确率训练生成能够计算两个 9 位数字加法的模型。

    Oct, 2014

  • 基于结构化数据的神经文本生成技术研究及其在传记领域的应用

    本文介绍了一个神经模型，用于在大型、丰富的领域中进行从概念到文本的生成。该模型在维基百科的传记新数据集上进行了实验，该数据集比现有资源大一个数量级，具有 70 万个样本，并且词汇量非常丰富，与 Weathergov 或 Robocup 的几百个词相比。我们的神经模型基于最近对于文本生成的条件神经语言模型的工作。为了处理大量单词，我们扩展这些模型，将固定的词汇表与从输入数据库传输特定于样本的词汇的复制操作混合生成的输出句子。我们的神经模型在这项任务上明显优于经过调整的经典 Kneser-Ney 语言模型，BLEU 值近 15。

    Mar, 2016

  • 使用 LSTMs 生成隐写文本

    为了保护用户隐私，我们设计了一种基于 LSTM 神经网络的语言隐写系统，可以让两个用户在不被攻击者察觉的情况下交换加密信息，并且在 Twitter 和 Enron 邮件数据集上实现了高质量的隐写文本，显著提高了加密位数。

    May, 2017

  • 自动生成作者风格诗歌的多语言方法

    该论文研究多语言环境下的文本风格生成问题，并基于长短时记忆人工神经网络和扩展语音和语义嵌入，实现了文学创作的风格生成，最终通过双语评估，调查调查和交叉熵等指标比较结果，认为该模型在创作文本方面优于随机采样和经典 LSTM 基线模型，并且生成文本的风格和目标作者十分相似。

    Jul, 2018

  • 长短时记忆网络自动规则提取

    本文提出了一种新方法，通过追踪给定输出对 LSTM 的给定输入的重要性来识别一致重要的单词模式，从而将其简化为一组代表性短语，并基于这些短语构造了一个简单的基于规则的分类器，从而近似于 LSTM 在情感分析和问题回答上的输出。

    Feb, 2017