大型生成模型辅助的 3D 语义通信
在 6G 时代,智能交通系统、数字孪生、远程监控有望成为普遍实践。为了解决无线网络中庞大数据量和频繁更新的挑战,本文提出了一种基于强化学习的新型代理驱动生成语义通信(A-GSC)框架。通过无缝地结合源信息的内在属性和任务相关的情境信息,本研究在语义通信领域进行了创新,同时引入了生成人工智能(GAI),实现了语义编码器和解码器的独立设计。在实证分析中,基于 CDNet2014 数据集验证了所设计模型的有效性,并证明了整体 A-GSC 框架在节能和重构准确性方面的性能提升。
Apr, 2024
利用大型人工智能模型构建的大规模多模态语义通信(LAM-MSC)框架,通过多模态对齐、个性化语言模型和信道状态估计相结合来解决多模态语义通信中的数据异构性、语义歧义和信号衰落等挑战,并通过模拟实验验证了该框架的卓越性能。
Sep, 2023
在本研究中,我们提出了一种基于大型人工智能模型的语义通信框架(LAM-SC),该框架针对图像数据进行设计,其中我们首先设计了一个基于任意语义知识的分割任何模型(SAM)的知识库(SKB),可以通过通用语义知识将原始图像分割为不同的语义片段。然后,我们提出了一种基于注意力的语义集成(ASI),用于权衡由 SKB 生成的语义片段,并将它们整合为语义感知图像。此外,我们提出了一种自适应语义压缩(ASC)编码,以去除语义特征中的冗余信息,从而减少通信开销。最后,通过仿真实验,我们证明了 LAM-SC 框架的有效性以及基于大型人工智能模型的知识库在未来语义通信范例中的重要性。
Jul, 2023
本研究提出了一种新颖的扩散引导框架的语意通信,通过高度压缩的语意信息来降低带宽使用,然后利用扩散模型从这些去噪的语意信息中学习合成语义一致的场景,从而生成保留语义信息的高质量图像。
Jun, 2023
在这篇文章中,我们提出了一个新的生成语义通信框架,针对多用户场景进行了优化,利用扩散模型在接收方填充丢失的信息,通过彻底的实验评估展示了这种创新性的扩散模型的能力和所提出框架的有效性,为基于 GenAI 的下一代通信发展指明了方向。
May, 2024
语义通信在未来的人工智能驱动通信系统中扮演关键角色,通过深度生成模型来从原始复杂内容中提取语义信息并在接收端重新生成语义一致的数据,使得其对信道干扰具有鲁棒性。本文概述了语义通信面临的挑战,并揭示了深度生成模型如何显著增强语义通信框架,处理现实世界中的复杂数据、提取和利用语义信息以及对信道干扰具有鲁棒性。此外,本文还为下一代生成式语义通信框架提供了新的研究路径。
Sep, 2023
提出了一种新颖的基于视觉 - 语言模型的跨模态语义通信系统,通过跨模态知识库、记忆辅助编解码和噪声注意模块来解决图像语义通信系统中的挑战,实验证实了该系统的有效性、适应性和鲁棒性。
May, 2024
将大型语言模型和生成模型整合到新兴的语义交流模式中,我们提出了一种新的面向语言的语义交流框架(LSC)。在 LSC 中,机器使用人类语言消息进行交流,可以通过自然语言处理技术进行解释和操作以提高语义交流效率。通过引入三种创新算法:1)语义源编码(SSC)将文本提示压缩为捕捉提示的句法本质的关键词,同时保持它们的出现顺序以保持提示的上下文;2)语义通道编码(SCC)通过用更长的同义词替换关键词来提高对错误的鲁棒性;3)语义知识蒸馏(SKD)通过在上下文中学习听者的语言风格生成定制的提示。在一项渐进文本到图像生成的通信任务中,所提出的方法在减少传输次数的同时实现更高的感知相似度,并提高在嘈杂的通信信道中的鲁棒性。
Sep, 2023
本文提出了一种基于 6G 无线系统的新型语义通信框架,将元宇宙分解成人 / 机器代理专用的语义多元宇宙,每个代理保存一个语义编码器和一个生成器,利用 AI 技术来提高通信效率并处理本地场景和交互。此框架可以应用于分布式学习、多智能体强化学习、信令游戏和符号 AI 等多个领域。
Dec, 2022
提出了一种基于 3D-SGAN 的语义指导生成模型,利用生成神经辐射场(GNeRF)提取人体的隐式 3D 表示,并用纹理生成器将语义掩码转换为真实图像,为计算机图形学应用中的非刚性物体生成具有照片级真实感的图像。在 DeepFashion 数据集上,比最新的基准表现显著优秀。
Dec, 2021