是的，神经网络可以在有限的数据下工作，但其有效性取决于用于弥补训练样本不足的技术。 虽然神经网络通常需要大量数据集才能很好地泛化，但开发人员可以采用数据增强、迁移学习和架构修改等策略来缓解数据稀缺性。 这些方法有助于模型学习有意义的模式而不会过度拟合，即使训练样本很少也是如此。
一种常见的方法是数据增强，它通过对现有样本应用转换来人为地扩展数据集。 例如，在图像分类中，您可以旋转、翻转或调整训练图像的亮度以创建新的变体。 这迫使模型关注不变特征，而不是记忆特定的像素排列。 类似地，在基于文本的任务中，诸如同义词替换或句子改组之类的技术可以生成不同的训练示例。 诸如 dropout 或权重衰减之类的正则化技术也在此处发挥作用，防止网络过度依赖特定特征。 例如，dropout 会在训练期间随机停用神经元，从而鼓励网络学习可用于缺失数据的冗余表示。
迁移学习是另一种强大的方法。 开发人员可以不从头开始训练模型，而是可以使用在大型数据集（例如 ImageNet 或 Wikipedia）上训练的预训练网络（例如，ResNet、BERT）。 这些模型捕获通用特征（例如，图像中的边缘或单词上下文），可以使用最少的数据针对特定任务进行微调。 例如，医学成像模型可以从预训练的视觉网络开始，然后仅使用一小部分 X 射线数据集重新训练最后一层。 类似地，在自然语言处理中，诸如 GPT 或 BERT 之类的模型可以通过有限的标记示例来适应特定领域的任务。 合成数据生成（例如，使用生成对抗网络 (GAN)）也可以通过在真实数据稀缺时创建合理的训练样本来填补空白。
最后，更简单的架构或诸如少样本学习之类的专门技术可能会有所帮助。 降低模型的复杂性（例如，减少层数或参数）可以降低过度拟合的风险。 例如，当训练数据有限时，具有三层的小型卷积神经网络可能优于深度 ResNet 变体。 诸如 Siamese 网络或元学习（例如，与模型无关的元学习，或 MAML）之类的技术使模型能够通过利用先验知识从极少的示例中学习。 在医学诊断中，由于隐私限制，数据通常受到限制，Siamese 网络可以比较患者记录对以识别相似之处，而无需数千个示例。 主动学习（模型识别并优先标记信息量最大的样本）可以进一步优化数据使用，从而即使在数据预算紧张的情况下也可以训练模型。