SSL（自监督学习）是计算机视觉中的一种技术，模型通过从数据本身创建监督信号，从无标签数据中学习有意义的表示。与依赖手动标签不同，SSL 利用图像的固有结构来训练模型。例如，模型可能会预测图像块的相对位置、重建图像中被遮盖的部分，或者区分同一图像的增强版本和原始版本。这些任务迫使模型学习边缘、纹理或对象形状等特征，这些特征对于分类或检测等下游任务非常有用。通过在大规模无标签数据集上进行预训练，SSL 减少了对标签数据的依赖，而标签数据的收集通常既昂贵又不切实际。
视觉领域中常见的 SSL 方法包括对比学习，其中模型学习对相似图像（正样本对）进行分组，并分离不相似图像（负样本对）。例如，像 SimCLR 或 MoCo 这样的框架通过对同一图像应用随机增强（例如，裁剪、颜色偏移）来生成正样本对，并训练模型以在特征空间中将这些变化映射得更近。另一种方法是掩码自动编码器，其中图像的部分被隐藏，模型重建缺失的像素。视觉 Transformer (ViT) 经常使用这种技术，类似于像 BERT 这样的语言模型如何掩盖单词。这些方法使模型能够捕获高级语义，例如对象部分或场景上下文，这些语义可以在以后针对特定任务（如医学图像分析或自动驾驶）进行微调。
SSL 在标签数据有限的领域中尤其有价值。例如，在医学成像中，由于隐私限制和标注成本，标签数据集很小。在未标记的 X 射线图像上使用 SSL 预训练的模型可以学习骨骼结构或组织模式等通用特征，然后通过微调来适应检测肺炎或肿瘤。同样，在卫星图像中，SSL 可以在大量未标记数据上预训练模型以识别地形特征，然后再针对森林砍伐跟踪进行微调。像 PyTorch Lightning 或 TensorFlow 的 Keras API 这样的工具提供了实现 SSL 工作流程的库，使开发人员可以访问这些库，以便将这些技术集成到自定义视觉管道中，同时保持计算效率。