Nov, 2021

文本补全和词性预测的适应性预测

PDF
TL;DR本研究提出基于收缩预测算法的文本填充和词性预测算法，并将其应用于自然语言数据处理中。通过在波士顿语料库中进行仿真实验，结论表明该算法能够生成有效的置信区间，并在机器语音转录中有改进应用。
conformal prediction algorithmsinductive conformal predictiontext infillingpos predictionmachine learning
发现论文，激发创造
  • 训练的 Transformer 学习上下文中的线性模型

    研究注意力机制的神经网络 transformer 采用渐变流进行单个线性自注意层的训练，实现在新的预测任务中使用标记示例的测试提示时具有预测误差与测试提示分布上最佳线性预测器相竞争的能力，且在多种分布转换下具有鲁棒性。

    Jun, 2023

  • 上下文语言学习：结构和算法

    通过研究在背景语境中的大规模神经语言模型对正则语言的学习，我们展示了 Transformers 相对于递归或卷积模型在 in-context 语言学习任务上的显著优势，并提出硬连接高阶归纳头到递归和卷积模型可改善这个任务和自然语言建模的性能。

    Jan, 2024

  • Transformers 作为统计学家：具有证明的上下文学习和上下文算法选择

    本文提供了建立在 transformer 结构上的神经序列模型的全面统计理论，阐述其在上下文数据分布中能够实现一类广泛的标准机器学习算法，基于上下文梯度下降机制的实现，以及不同算法之间的自适应选择。

    Jun, 2023

  • 通过双向对齐改善上下文学习

    大型语言模型通过在上下文中学习（ICL）在许多任务上展示了令人印象深刻的少量样本泛化能力。本研究提出了双向对齐（BiAlign）方法，旨在充分利用模型对 ICL 示例的偏好，提高较小模型的 ICL 能力。通过与大型模型的输入偏好对齐，同时对齐令牌级别的输出分布，BiAlign 在语言理解、推理和编码等各种任务中超过了现有基准。

    Dec, 2023

  • 基于 Transformer 的上下文学习与对比学习模式等效

    我们通过内在对比学习的角度解释了预训练大型语言模型的推理过程，分析了梯度下降和自注意机制之间的关系，并提出了对比学习模式的改进，以进一步修改自注意层。

    Oct, 2023

  • 关于共现、位置信息和噪音结构的作用：从无结构数据的训练中产生上下文学习

    通过建模共现信息使用经典语言模型如连续词袋模型，我们理论上证明并实证验证了不监督训练对于上下文学习的产生方式，同时我们提出了一些 ICL 失败的情况并给出了理论解释。

    May, 2024

  • 由标签分布指导的上下文示例排序

    通过优化问题，研究通过预训练语言模型的上下文学习中的示例排序，以提高文本分类的准确性和选择更好的上下文示例。

    Feb, 2024

  • 基于模式学习和重绑定机制的上下文学习和新生现象

    通过使用克隆结构因果图，可以获得与 transformer-based 大型语言模型相当的上下文学习能力，并且此方法具有良好的可解释性，其关键属性是学习模板（模式）电路以进行模式完成，并以上下文敏感的方式检索相关模板并重新绑定新令牌。

    Jun, 2023

  • 基于 Transformer 序列模型的 MIMO 均衡中的上下文学习

    利用 ICL 对多输入多输出均衡问题进行了处理，并通过数值结果展示了基于 Transformer 的 ICL 模型具有阈值行为的潜力。

    Nov, 2023

  • 用于稀疏检索任务的样本高效上下文学习机制

    本文研究了大型语言模型展示的 “上下文学习” 现象，并解释了预训练的 transformer 模型如何在合理的假设下执行上下文学习。我们推出了一种机制，使得 transformer 模型能够正确划分上下文，推断出稀疏线性回归假说，并应用此假说进行预测，在该学习框架中的样本复杂度保证。

    May, 2023