少样本学习最常用的方法包括基于度量的方法、基于优化的技术和基于模型的架构。 这些策略通过专注于如何从小样本中有效泛化来解决使用有限标记数据训练模型的问题。 每种方法都提供独特的机制来调整或利用先前的知识，以最少的监督来完成新任务。
基于度量的方法依赖于将新示例与少量带标签数据的支持集进行比较。 这些方法学习一个嵌入空间，其中相似的示例被聚类，而不同的示例被分离。 例如，原型网络计算支持集中每个类的原型（平均嵌入），并使用欧几里得或余弦距离等度量，根据新查询与这些原型的距离对其进行分类。 类似地，孪生网络使用成对的示例来学习相似性分数，从而可以通过将新输入与最接近的支持示例进行匹配来进行分类。 这些方法很有效，因为它们避免了为每个新任务重新训练模型，而是依赖于预先计算的嵌入和简单的距离计算。
基于优化的方法旨在训练可以快速适应新任务并进行最少更新的模型。 模型无关元学习 (MAML) 是一个突出的例子：它在不同的任务上预训练模型，优化其初始参数，以便在新任务的小数据集上进行少量梯度步骤即可产生强大的性能。 这种“学习如何学习”的策略涉及两个循环：一个用于特定于任务的微调的内部循环，以及一个用于跨任务更新初始参数的外部循环。 另一种变体 Reptile 通过重复微调批处理任务并将初始参数移动到微调版本来简化此过程。 这些方法很灵活，但由于元训练阶段而计算密集。
基于模型的技术修改神经网络架构以动态处理少样本场景。 例如，像 MANN 这样的内存增强网络结合了外部内存来存储和检索过去示例的信息，从而实现快速适应。 具有自注意力机制的 Transformer 也可以通过将支持示例作为输入序列的一部分进行处理来适应少样本学习，从而允许模型根据上下文进行预测。 超网络通过直接从支持集生成特定于任务的模型参数来更进一步，从而无需基于梯度的更新。 这些架构优先考虑灵活性，通常以增加复杂性为代价，但它们在需要立即适应而无需重新训练的场景中表现出色。