迁移学习通过复用预训练模型的知识来加速模型训练，而不是从头开始。当模型在大型数据集上针对通用任务进行训练时，它会学习基础模式，例如图像中的边缘或文本中的单词关系。通过利用这些预先学习的特征，开发人员可以避免花费时间和资源来训练已经捕获有用信息的层。当新任务与原始任务相关时，此方法尤其有效，因为模型只需要进行微小的调整，而不是完全重建。
迁移学习加速训练的一个关键原因是减少了计算工作量。例如，构建用于医学 X 射线图像分类器的开发人员可以从像 ResNet 这样的模型开始，该模型已经在数百万张通用图像上进行了预训练。他们可以冻结早期层（检测基本形状和纹理），而只微调最后几层以识别 X 射线特定的特征，而不是训练所有层。这大大减少了需要更新的参数数量，从而加快了收敛速度。同样，在自然语言处理中，使用预训练的 BERT 模型进行情感分析可以避免从头开始训练嵌入，因为该模型已经理解语言结构。
迁移学习还减少了对大型数据集的需求。从头开始训练深度神经网络通常需要大量的标记数据来防止过拟合。通过迁移学习，预训练层充当广义特征提取器，即使使用较小的数据集，模型也能表现良好。例如，创建文本摘要工具的开发人员可以在几千个示例而不是数百万个示例上微调 GPT-2。这种效率在医疗保健或利基行业等标记数据稀缺的领域至关重要。通过构建在现有知识的基础上，迁移学习缩短了数据准备和训练时间，使其成为实际应用的实用选择。