本文提出了一种基于深度学习的算法，称为 Cloud-Net，用于在仅有少量谱带的卫星影像中探测云层，实验结果显示，该算法在 Jaccard Index 上的性能超过了现有算法的 8.7%。

Jan, 2019

我们提出了一种高效的网络结构，通过从训练充分的医学图像分割网络中提炼知识来训练另一个轻量级网络，从而使得轻量级网络在保留其运行效率的同时，显著提高了其分割能力。通过使用我们为医学图像分割量身定制的新颖蒸馏模式，从教师网络向学生网络传递语义区域信息，避免了处理医学图像时遇到的模糊边界问题。在我们的实验中，轻量级网络的性能提高了 32.6％，同时在推理阶段保持了可移植性，并在 LiTS17 和 KiTS19 两个公认的公共 CT 数据集上进行了验证。

Aug, 2021

利用高分辨率静止卫星观测的光谱信息，设计了基于知识驱动数据驱动（KBDD）框架的全天云类型识别系统 CldNet，具有高准确率和较小参数量，可在许多气候评估领域提供高保真、全天候、时空云类型数据库。

Dec, 2023

本文探讨了最新的卷积神经网络（CNNs），用于高光谱卫星上的云检测。评估了最新的 1D CNN（1D-Justo-LiuNet）和两个最近的 2D CNNs（nnU-net 和 2D-Justo-UNet-Simple）在云分割和分类方面的性能，包括轨道中部署的精度和计算效率。实验使用了 NASA 的 EO-1 Hyperion 数据，并通过主成分分析获得不同的光谱通道数。结果表明，1D-Justo-LiuNet 在精度上达到了最高水平，在维持较大光谱通道集合的紧凑性的同时，胜过了 2D CNNs，尽管推理时间有所增加。然而，在光谱通道减少的情况下，1D CNN 的性能会下降。在这种情况下，2D-Justo-UNet-Simple 在轨道中部署时提供了最佳的平衡，考虑到精度、内存和时间成本。尽管 nnU-net 适用于地面处理，但推荐在高精度应用中部署轻量级的 1D-Justo-LiuNet。或者，推荐在轨道上在时间和精度之间取得平衡的轻量级 2D-Justo-UNet-Simple。

Mar, 2024

本研究提出了一种基于 PU 分类器和 RKD 方案的网络压缩方法，可在云上利用少量标记数据和大量无标签数据来加速深度学习模型训练，对观测数据的处理有较好的鲁棒性。实验证明该方法在 ImageNet 数据集可以在仅使用 8％标记数据的情况下，获得与 ResNet-34 等基线模型性能相当的高效模型。

Sep, 2019

本研究提出了一种新方法，通过域自适应和无监督知识蒸馏，联合优化卷积神经网络，实现压缩模型并适应于特定目标领域，结果表明该方法在实现较高准确度的同时，比现有的压缩和域自适应技术具有相当或更低的时间复杂度，在实际应用中有较好的应用前景。

May, 2020

无监督深度学习技术广泛用于识别异常行为。该研究介绍了一种基于知识蒸馏的新型过程，用于将无监督异常检测模型压缩成监督可部署模型，并提出了一套提高检测敏感性的技术集合。压缩模型在显著减小大小和内存占用的同时，性能与较大模型相当。

Oct, 2023

本文提出了一种通过知识蒸馏实现基于点云进行三维物体检测的方法，该方法通过两阶段的训练流程，使得在测试时基于低质量数据的模型性能得到提升。

Sep, 2020

利用卫星搭载的机器学习硬件加速器，通过卷积神经网络等机器学习技术在机载上处理有效载荷数据的出现，其中一个重要的例子是使用卷积神经网络在地球观测任务中检测高光谱数据中云的存在，仅将晴空数据进行下行传输以节省带宽。然而，在新任务部署之前，使用新传感器的新任务将没有足够的代表性数据集来训练卷积神经网络模型，而仅使用以前任务的数据训练的模型在新任务的数据处理过程中会表现不佳。这个问题源于领域差异，即由以前和未来任务中由不同传感器生成的数据的基本分布的差异。本文针对机载高光谱云检测中的领域差异问题进行了研究。我们的主要贡献在于制定了由具体的地球观测任务驱动的新领域适应任务，开发了一种新颖的用于带宽高效、有监督领域适应的算法，并在太空部署型神经网络加速器上验证了测试时领域适应算法。我们的贡献使得只需最小程度的数据传输（例如，ResNet50 中只传输 1% 的权重）即可实现领域适应，在卫星上部署和更新更复杂的卷积神经网络模型，而不会受到领域差异和带宽限制的阻碍。

Sep, 2023

提出了一种轻量级裂纹级变化检测网络（LPCDNet），用于快速去除大规模双时期图像中的许多未改变的裂纹对，从而加速后续的像素级 CD 处理阶段并减少其内存成本。

Oct, 2023