自监督学习（SSL）被广泛用于训练模型，它不依赖人工标注数据，而是直接从输入中创建监督信号。这种方法在标注数据稀缺或获取成本高昂的场景中尤为重要。以下是 SSL 已证明有效的三个主要应用领域。
在 自然语言处理（NLP）中，SSL 常用于预训练能够理解上下文和语义的语言模型。例如，像 BERT 和 GPT 这样的模型就是通过掩码语言模型（预测句子中缺失的词语）或下一句预测等任务进行训练的。这些预训练模型可以进一步微调用于下游任务，如文本分类、问答或翻译。通过从未标注的大量文本（如书籍、文章）中学习，SSL 减少了对特定任务标注数据集的需求，同时提高了泛化能力。例如，一个在维基百科上预训练的 BERT 模型只需少量标注示例即可用于分类客户支持邮件，从而节省时间和资源。
在 计算机视觉中，SSL 帮助模型从未标注的图像或视频中学习有意义的视觉表示。对比学习（如 SimCLR、MoCo）等技术训练模型识别同一图像的不同增强视图（如裁剪、旋转）属于同一类别，而来自不同图像的视图则应不同。这些学习到的特征可用于目标检测、图像分割或医学图像分析等任务。例如，使用 SSL 在未标注 X 射线图像上预训练的模型可以稍后用较小的标注数据集微调以检测肺炎。这种方法在医疗保健等领域尤其有用，因为专家标注成本很高。
另一个应用是在 语音和音频处理中，SSL 模型从原始波形或频谱图学习。wav2vec 2.0 等方法屏蔽部分音频输入，并训练模型预测缺失的片段，即使转录数据有限，也能实现鲁棒的语音识别。此类模型用于语音助手、转录服务或语言识别系统。例如，预训练的 wav2vec 模型只需少量标注音频即可用于转录稀有语言。SSL 也受益于多模态任务，例如通过利用非配对数据中的跨模态关系来对齐音频与视频或文本。这种灵活性使 SSL 成为处理多样化、非结构化数据源的开发人员的实用选择。