利用巨大语言模型和 GPT，我们将因果生成引入视频扩散模型中，通过引入因果时序注意力和以帧为提示的设计，我们提出了 Video Diffusion GPT（ViD-GPT），能够在生成每个时刻的帧时获取来自之前所有生成帧的长期上下文。通过引入 kv-cache 机制，我们还能够消除重叠帧的冗余计算，显著提高了推理速度。广泛的实验证明，我们的 ViD-GPT 在长视频生成方面在定量和定性上均取得了最先进的性能。

Jun, 2024

提出了 Metasql，这是一个统一的生成 - 排序框架，可以与现有的自然语言界面数据库（NLIDB）相结合，以提高其翻译准确性。Metasql 通过引入查询元数据来控制生成更好的 SQL 查询候选集，并使用学习排序算法检索全局优化的查询。实验结果表明，使用 Metasql 可以有效提高翻译模型的性能。

Feb, 2024

利用强化学习从人类反馈中对大型语言模型（LLMs）进行微调，该方法已在一些最广泛使用的人工智能模型中得到应用，如 OpenAI 的 ChatGPT、Anthropic 的 Claude 或 Meta 的 LLaMA-2。我们通过广泛的分析探讨了这个过程的每个阶段（即受监督的微调（SFT）、奖励建模和强化学习从人类反馈）对于两个关键属性的影响：越界分布的泛化和输出的多样性。我们发现，相对于受监督的微调，强化学习从人类反馈更好地泛化到新的输入，尤其是在训练和测试之间的分布差异越大时。然而，相比于受监督的微调，强化学习从人类反馈显著降低了输出的多样性，这意味着在当前 LLM 微调方法中存在泛化和多样性之间的权衡。我们的研究结果为特定应用提供了微调方法的指导，并表明有必要改进泛化和多样性之间的权衡。

Oct, 2023

通过平衡训练数据集中的模式，我们提出了一种多样性权重训练方案，以增加模型的输出多样性，并在受控环境下进行了实验，证明了我们的方法的潜力，这将有助于解决生成式机器学习中偏差、公正性和代表性等更广泛辩论中的多样性问题。

Apr, 2023

本文提出了一种基于单通词分类器模型的逆文本规范化方法，该方法通过在每个输入标记上分配替换片段或标记它们以进行复制或删除来执行此任务，并通过基于 ITN 实例的颗粒对齐的数据集准备方法来缓解网络模型的幻觉问题。此方法在英语和俄语测试集上均取得了最新的句子准确率。

Jul, 2022

该论文研究了机器学习中分类器去随机化的问题，并提出了同时具有度量公平性和输出近似的去随机化方法。

Jun, 2022

本文提出了一种使用神经序列到序列模型来学习超级优化现实世界程序的框架，并介绍了一种易于实现的方法（SILO）来增强优化，该方法在测试集上优化了 5.9％，超过了标准策略梯度方法和模型预训练的优化演示。

Sep, 2021

该研究探讨了神经序列到序列模型在语言生成任务中的应用，发现在单词级任务中，准确推断这些模型会发现空字符串常常是全局最优解，但在形态学变化的情况下，空字符串几乎不是模型最可能的解，且贪婪搜索通常能找到全局最优解。这表明，许多神经模型的不良校准可能来自于特定任务的特征，而非这些模型在语言生成方面的普遍不适用性。

Feb, 2021

在语义解析中，提出了一个新的解码框架，该框架保留了序列到序列模型的表现力和通用性，同时具有类似词典的对齐和解开信息处理，能够提高模型的组合泛化能力。

Oct, 2020

本文提出了一种用于高级数学推理的数据集，研究了神经序列到序列模型的推理能力。实验结果表明，该任务具有挑战性，但神经模型能够捕捉到非平凡的数学推理，提出的分层 Transformer 的性能也好于基准 Transformer。

Jun, 2020