我们提出将自我监督（SSL）和深度主动学习（DAL）结合起来，转向端到端学习进行鸟类声音监测。利用 Transformer 模型，我们旨在绕过传统的频谱图转换，实现直接的原始音频处理。通过 SSL，ActiveBird2Vec 将生成高质量的鸟类声音表示，可能加快对风电场环境变化和决策过程的评估。此外，我们还计划通过 DAL 利用多种鸟类鸣叫声，减少对人工专家 extensively labeled 数据集的依赖。我们计划通过 Huggingface Datasets 整理一套全面的任务，增强生物声学研究的未来可比性和可重复性。将进行各种 Transformer 模型之间的比较分析，评估它们在鸟声识别任务上的熟练程度。我们旨在加速鸟类声学研究的进展并为更有效的保护策略作出贡献。

Aug, 2023

利用无损声学监测方法追踪全球生物多样性和人类活动对物种的影响，在此工作中，我们提出了一种基于对比语音 - 音频预训练的生物声学模型 BioLingual，该模型能够跨类别识别超过一千种动物的叫声并通过自然语言查询检索动物语音记录。

Aug, 2023

该研究探讨了自动化深度学习在多类鸟类声音分类中提高准确性和效率的潜力，与传统手动设计的深度学习模型进行对比。采用西地中海湿地鸟类数据集，研究了使用 AutoKeras（一种自动化机器学习框架）来自动化神经架构搜索和超参数调优。比较分析验证了我们的假设，即 AutoKeras 导出的模型在性能上一直优于传统模型（如 MobileNet、ResNet50 和 VGG16）。该研究突显出自动化深度学习在推动生物声学研究和模型方面的变革潜力，事实上，自动化技术消除了对手动特征工程和模型设计的需求，同时提高了性能。该研究通过样本、评估和报告的最佳实践，提升了这一新兴领域的可复制性。所有使用的代码可在 https://github.com/giuliotosato/AutoKeras-bioacustic 获取。

Nov, 2023

这项研究利用元信息来改善零样本音频分类，以鸟类物种作为例子进行了研究，并通过文本描述、功能特征和鸟类生活历史三种元信息的来源，提取了音频特征并采用零样本学习算法得出了最佳结果。

Sep, 2023

通过提供开源代码，本研究旨在降低少样本生物声事件检测的门槛，通过提出一个简单而有效的框架来实现此任务，并通过规范化监督对比预训练来学习能够在新目标任务中进行良好迁移的特征，从而在无特征适应时取得 61.52%（0.48）的高 F 分数，在进一步对新目标任务进行特征适应时获得 68.19%（0.75）的 F 分数。

Sep, 2023

本研究通过对原始音频进行特征学习，探索无监督的语音识别预训练方法，在大量无标注音频数据上进行训练，结果表示所得到的特征对提高声学模型训练有积极意义。在 WSJ 测试中，仅使用少量已识别数据，我们的方法成功将 WER 从传统的 log-mel filterbank 上降低了最多 36％，最终的 WER 为 2.43％，使用的标注数据量较 Deep Speech 2 少两个数量级。

Apr, 2019

通过数据增强和监督对比学习框架，利用少量标注样本实现了对生物声学应用中的声音事件进行检测和分类的深度学习方法，并在 DCASE 挑战中获得了较好的性能。

Sep, 2023

研究使用半监督学习方法通过深度学习和声学监测来掌握鸟类叫声和环境噪声的特征，以提高环境声学数据的分类精度和深入了解环境声学数据的潜在结构。

Aug, 2021

本研究首次证明了从语音音频中学习强大的表征，然后在经过转录的语音上进行微调可以胜过最好的半监督方法，而且概念上更简单， 示范了在有限标注数据情况下实现语音识别的可行性。

Jun, 2020

通过对比人工神经网络和发掘上的多次激活，作者发现，self-supervised 的算法比 pre-trained 的算法表现更接近哺乳动物皮层对同样声音刺激的反应，这表明两种方法有共同的学习机制。

Feb, 2022