- 面部图像合成的特征提取网络分析
对于评估人脸图像生成的真实性,研究人员关注生成对抗网络等新技术的进展,本研究通过调查不同特征提取器(InceptionV3、CLIP、DINOv2 和 ArcFace)的行为,考虑多种指标(FID、KID、Precision&Recall) - 用于异常检测和定位的分形预训练数据集
通过使用动态生成的分形图像对比使用 ImageNet 预先训练的模型,我们评估了八种最先进的模型在异常检测任务中的性能,虽然 ImageNet 的预训练仍然是最好的选择,但分形图像的结果非常有希望,这表明了在处理机器学习中日益增长的数据需求 - 合成图像对基于孪生网络的形变攻击检测的影响
研究评估了使用具有半硬损失函数的暹罗网络在形态攻击检测(MAD)中,合成图像对其影响。通过跨数据集评估来测量合成图像的泛化能力。使用传统的 MobileNetV2、MobileNetV3 和 EfficientNetB0 预训练网络作为特征 - 监控视频中的物体投掷行为检测
该研究论文提出了一个基于深度学习的解决方案,用于监控视频中的投掷行为检测,并通过生成新的公开数据集和比较不同特征提取器的性能来改善异常检测算法,实验结果显示了良好的性能。
- 基础模型的低资源化微调在组织病理学中超越了现有技术水平
通过细化基础模型,仅经历两小时或三天的单个 GPU 训练,我们可以在计算病理学中的特征提取上相媲美或超越现有的方法,这表示即使资源有限,也可以针对特定下游任务和数据集训练一个定制的特征提取器。
- AAAI生成和重新加权密集对比模式的无监督异常检测
最近的无监督异常检测方法往往依赖于使用辅助数据集预先训练的特征提取器或经过精心设计的异常模拟样本,然而,这可能限制它们适应日益增多的异常检测任务的能力,因为辅助数据集的选择或异常模拟策略中存在先验条件。为了解决这个挑战,我们首先引入了一个无 - 医学影像中弗雷歇距离计算中特征提取的重要性
比较了在医学图像中计算 Fréchet 距离(FD)的最先进特征提取器,并通过可视图灵测试将人类评估的生成质量与使用 ImageNet 训练的 InceptionV3、ResNet50、SwAV、DINO 和 Swin Transforme - 弱监督学习的良好特征提取器
深度学习在病理学中的应用包括疾病预测和个体化治疗,研究表明,在计算机病理学中,传统的染色归一化处理在深度学习时代仍然存在争议,采用以自我监督学习训练的特征提取器可以在省内存和计算资源的同时不影响下游性能,同时对染色和图像扩增具有鲁棒性。
- 无监督领域适应的对比式双投影器
提出了一种基于对比双投影器(CBP)的新型无监督领域适应(UDA)方法,旨在通过提高特征提取器(FEs)来减少分类和领域适应中产生模糊特征的现有 UDA 方法,该方法称为 CBPUDA,通过对输入特征进行映射生成两个不同特征之间的 CBP, - 为少 / 多样本异常检测优化 PatchCore
研究表明对 PatchCore 算法进行超参数优化和迁移用于少样本异常检测及异常分割可以显著提高其性能,并提出了对具有强归纳偏差的特征提取器的研究作为未来的潜在方向。
- 基于双编码器的检测器用于识别未知分布
本文介绍了一种新的方法,利用双编码器检测器,并通过比较不同的特征提取器在自然语言处理(NLP)中的不同外域检测方法进行全面研究。实验结果表明,该方法在所有数据集上都优于其他方法,具有很大的潜力应用于 NLP 领域的 OOD 检测中。
- 揭示生成模型评估指标的缺陷及其不公平对待传播模型
本研究旨在系统研究各种基于图像的生成模型,通过在人类感知上度量图像逼真度,发现现有指标与人类感知存在巨大差距;同时也发现现有指标无法适当检测到模型对数据的记忆现象;针对这些问题,我们提出了一种更可靠的特征提取器,并且释放了全部生成的图像数据 - 通过无监督超图排名选择和融合进行人员再识别
本项研究提出了一种流形排名聚合方法,对多个不同特征提取器产生的多样化排名列表进行完全无监督的选择和融合,进而提高了人物 Re-ID 的表现。
- CVPR自监督预训练策略在 M 型肺部超声中发现无肺滑动的实用性探索
本研究探讨了在 M 模式肺超声图像的肺滑动分类任务中,进行自监督预训练对于监督微调的实用性,结果表明,相对于完全监督,自监督预训练表现更好,特别是对于未使用 ImageNet 预训练权重来初始化特征提取器的情况下。此外,包含大量未标记数据可 - 简化特征提取器可避免神经语篇分析模型的过拟合
利用自我注意机制和预训练神经语言模型来简化特征提取器,缓解过拟合问题,并在三种常见的语篇分析任务上进行实验,得出了更好的泛化性和相当甚至更好的系统性能的结论。
- ICML超不变性:摊销不变性学习
通过使用超网格训练抽取具有不变性的特征提取器的低维流形来将问题的不变性赋值给神经网络模型,使得在处理不同的下游任务时定位相应的不变性描述符和输出头变得迅速高效并且可以获得良好的泛化能力。
- 稀疏时空脑机接口的分解方法
本研究提出了一种稀疏情况下基于因子分解的脑机接口信号处理方法,通过采用不同的特征提取器从潜空间获取不同表示并最小化潜空间共享情况,成功地提取到了稀疏条件下的脑电信号的决定性特征。
- CVPR自然世界图像集的表示学习基准测试
本研究提供两个新的自然世界分类数据集 iNat2021 和 NeWT,探索了 fine-grained 类别的大规模表示和迁移学习的问题。研究表明,在各种任务中,基于 ImageNet 和 iNat2021 有监督方法学习到的特征优于 Si - 基于非线性 ICA 的可识别条件能量深度模型 ICE-BeeM
本研究针对概率模型的可辨识性理论,通过一种广泛的条件能量模型建立充分条件,使得学习到的表示在函数空间上是唯一的,从而可以用于在非线性 ICA 框架下的组件估计,同时提高了图像数据集在迁移学习和半监督学习任务中的性能。
- ICML揭开元学习的面纱:理解适用于小样本任务的特征表示
本研究关注元学习及其在 few-shot 分类任务中达到优秀表现的特征提取器,提出元学习模型表现优秀的原因并给出一种正则化方法来改进标准训练方法,在很多情况下,该方法不仅可超越元学习,且快速度又快。