generative | BriefGPT - AI 论文速递

关键词generative

搜索结果 - 14

统一自编码与屏蔽扩散
提出了一种统一的自监督目标（Unified Masked Diffusion），通过在单一的自编码框架中结合基于补丁和噪声的破坏技术，使用扩散变换器（DiT）培训过程中引入额外的无噪声、高掩膜表示步骤，并在后续时间步骤中使用混合的掩膜和噪声
PDF9 days ago
RF-Diffusion：通过时频扩散生成无线电信号
本研究提出了 RF-Diffusion，一种用于生成各种高质量时间序列射频数据的多功能解决方案，并通过与其他三种流行的生成模型进行性能比较，证明了 RF-Diffusion 在合成 Wi-Fi 和 FMCW 信号方面的出色表现。此外，我们还
PDF3 months ago
IJCAI时间序列的自监督学习：对比或生成？
自我监督学习 (SSL) 是一种有效的方法，可以从大规模无标签数据中学习表示，对时间序列分析显示出有希望的结果。本文从对比和生成两个主要流派对比研究了时间序列中的自我监督表示学习。我们首先介绍了对比和生成 SSL 的基本框架，并讨论了如何获
PDF4 months ago
高召回率大约前 k 个预估用于高效 LLM 推理
使用大型语言模型生成的自回归解码在加速器（GPU/TPU）上通常受限于内存，而通过适当训练模型以在前馈层的高 $k$ 部分上操作，从而减少模型参数传输和减少延迟的潜力受到数据依赖性和矩阵运算的限制。为解决这些问题，我们引入了 HiRE（高召
PDF5 months ago
AI 部署开销：瓦特数何以驱动成本？
建立在生成式、多用途 AI 系统基础上的商业 AI 产品近年来越来越受欢迎，然而，由于这些系统所需的能源和排放的碳量的增加，这种 “通用性” 的雄心勃勃使环境付出了巨大代价。在这项工作中，我们首次对各类机器学习系统的持续推理成本进行了系统比
PDF7 months ago
将文本提炼为电路
本文利用 DisCoCirc 框架，提出了一种适用于自然语言的生成文本电路，该电路独立于语音和语言，并能够在不同表现层次上捕获和更新单词、句子和文本内涵，并通过构建混合语法和翻译过程，实现了文本生成和解析的循环互逆。
PDFa year ago
面向任务导向对话的端到端检索生成
介绍了 AARGH，一个综合了检索和生成方法的端到端任务导向对话系统，旨在改善对话管理和输出的词汇多样性。在 MultiWOZ 数据集上，我们展示了该方法相对于最先进的基线方法可以产生更多样化的输出，同时维持或提高状态跟踪和上下文 - 响应
PDF2 years ago
NatGen: 自然化源代码的生成式预训练
本文提出了一种新的预训练目标 —— 源代码的自然化，在大规模的自然代码库中通过引入非自然代码形式的六类语义保持变换，来训练生成等效但更加自然的代码，进一步提升了自然代码的统计学习能力，实现了三种软件工程任务的生成，翻译和细化，达到了 Cod
PDF2 years ago
具有局部掩码重建的高效自监督视觉预训练
本研究提出一种名为 LoMaR 的局部掩码重建的学习机制，该方法与生成式自监督视觉学习方法（如 MAE 和 BEiT）相比，可以更加高效地在简单的转换器编码器上进行掩码重建，同时也更具准确性，可轻松集成到其他生成式自监督学习方法中。
PDF2 years ago
EMNLP通过语句组合搜索进行自然语言推理
本文提出了一种基于自然语言的演绎推理系统，通过将任务分解为逐步协调的步骤，并由搜索程序生成中间结论的树，可以成功地证明真实的语句并拒绝虚假的语句。
PDF2 years ago
对抗性潜在自编码器
本研究引入 Adversarial Latent Autoencoder (ALAE) 来解决 autoencoder 的生成能力及是否能够学习分离表示等问题。通过两种不同基于 MLP encoder 和 StyleGAN generato
PDF4 years ago
NIPS基于生成多列卷积神经网络的图像修复
本文提出了一种基于生成的多列网络来进行图像修复的方法，该方法通过采用置信度驱动的重建误差和多重随机场正则化来增强图像的全局和局部细节，在不需要进行后期处理的情况下，在挑战性的街景、人脸和自然场景下产生了令人信服的视觉效果。
PDF6 years ago
NIPS递归世界模型促进策略演化
使用生成式的递归神经网络以压缩时空特征的方式进行快速的非监督式学习，模拟了一些常见的强化学习环境。提取的环境模型特征被输入到简洁的进化训练策略中，取得了在各种环境中的最先进成果。最后，我们在由内部环境模型产生的环境中完全训练我们的智能体，并
PDF6 years ago
ECCV学习物体的可预测和生成向量表示
本文介绍了一种名为 TL 嵌入网络的神经网络结构，它可生成新的 3D 物体并从 2D 图像中预测，旨在获得一个既具有生成性，又具有可预测性的嵌入空间，该嵌入空间可用于多个任务，包括从 2D 图像预测体素和 3D 模型检索。
PDF8 years ago