少样本学习通过使模型能够用极少量的标记样本识别新类别，从而帮助解决多类别分类问题，减少了对大型数据集的依赖。在传统的多类别设置中，每个类别需要数百或数千个标记样本来训练准确的模型。少样本学习通过教导模型从有限的数据中泛化，从而改变了这种范式。例如，如果模型需要对 50 种动物进行分类，但每种稀有动物只有五张图片，则少样本技术允许模型从相关类别（例如，相似动物之间的共享特征）中推断模式，从而做出准确的预测。这在获取标记数据昂贵或不切实际时特别有用。
其核心机制涉及学习一个特征空间，在这个空间中，相似的类别会聚集在一起，类别之间的差异被放大。元学习等技术在模拟少样本场景的“任务”上训练模型。例如，模型可能会反复练习使用最少的样本对随机类别的子集（例如，一次 10 个类别）进行分类，从而迫使其快速适应。原型网络（一种流行的方法）使用每个类别的少量样本创建该类别的原型（平均特征向量）。新实例通过将其特征与这些原型进行比较来进行分类。这种方法在多类别设置中效果很好，因为可以同时计算所有类别的原型，并且特征空间中的距离直接转换为类别概率。
实际应用包括动态添加类别或数据稀缺的场景。在客户支持工单分类中，模型可能需要将工单分类到 30 个类别中，但某些类别只有三个历史示例。少样本模型可以利用预训练语言模型（例如 BERT）的嵌入来表示文本，然后计算与现有类别原型的相似度。类似地，在医学影像中，通过转移常见疾病的知识，对具有少量标注扫描的罕见疾病进行分类变得可行。开发者可以使用 PyTorch 或 TensorFlow 等框架实现这一点：定义特征提取器，计算每个类别的原型，并使用余弦相似度进行分类。这种方法可以高效扩展，因为添加新类别只需要从少量样本计算其原型。