少样本学习是一种用于机器学习的技术，它可以在非常有限的标记数据下有效地训练模型，并且与深度学习密切相关，因为它依赖于深度神经网络来实现这一点。虽然传统的深度学习模型需要大量数据集才能很好地泛化，但少样本学习可以调整这些模型，使其仅使用少量示例即可工作。 这是通过利用深度神经网络的表征能力来实现的，即使在训练样本稀缺的情况下，深度神经网络也可以从数据中提取有意义的模式。 本质上，少样本学习是深度学习的一种特殊应用，它解决了数据收集成本高昂或不切实际的场景。
深度学习模型擅长少样本学习，因为它们的架构可以设计或预训练来捕获跨任务的通用特征。例如，模型可以在大型数据集（例如，图像的 ImageNet 或语言任务的 Wikipedia 文本）上进行预训练，以学习广泛的模式。 然后，在微调期间，模型使用先前的知识来快速适应具有最少示例的新任务。 度量学习（模型学习比较示例，例如 Siamese 网络）或元学习框架（如模型无关的元学习 (MAML)，它训练模型以快速调整新任务的参数）等技术在少样本设置中很常见。 这些方法使深度学习模型能够推断数据点之间的关系，而无需依赖大量标记数据集。
一个实际的例子是医学成像中的图像分类，在这种情况下，获得罕见疾病的标记数据具有挑战性。 在一般医学图像上预训练的深度学习模型可以使用特定病症的五个标记示例进行微调，依靠其预训练的特征提取器来识别相关模式。 同样，在自然语言处理中，像 GPT-3 这样的模型可以通过在输入提示中仅提供几个示例来执行翻译或摘要等任务，从而绕过对特定于任务的训练数据的需求。 这些示例突出了少样本学习如何建立在深度学习从预训练中泛化的能力之上，同时最大限度地减少对大型标记数据集的依赖 - 这是资源受限领域中的一个关键优势。