自编码器是一种用于无监督学习的神经网络，旨在将输入数据压缩成低维表示，然后再对其进行重构。 它由两个主要组件组成：编码器和解码器。 编码器将输入数据（例如，图像或文本）映射到压缩的潜在空间，该空间捕获数据的最基本特征。 然后，解码器从该压缩表示中重建原始输入。 目标是最小化输入和重建输出之间的差异，迫使网络学习有效的数据表示。 例如，如果输入是 784 像素的 MNIST 手写数字图像，则编码器可能会将其减少为 32 维向量，而解码器会尝试从该向量重建 784 像素的图像。
自编码器使用反向传播进行训练，优化损失函数，该损失函数测量重建精度，例如均方误差 (MSE) 或二元交叉熵。 在训练期间，网络学会优先考虑重要特征，同时丢弃噪声或不相关的细节。 一种常见的变体是去噪自编码器，其中噪声（例如，随机像素下降）被添加到输入，并且模型学习重建干净的版本。 这鼓励网络专注于鲁棒模式，而不是记忆数据。 另一个例子是稀疏自编码器，它向损失函数添加一个正则化项，以确保潜在空间中只有一小部分神经元被激活，从而促进特征选择性。 变分自编码器 (VAE) 通过在潜在空间中引入概率抽样而更进一步，从而实现生成能力。
自编码器广泛用于降维、异常检测和图像生成等应用中。 例如，它们可以将高维数据（例如，图像）减少为紧凑的潜在表示，以实现高效的存储或可视化，类似于 PCA，但具有非线性变换。 在异常检测中，在正常数据上训练的自编码器将难以重建异常输入，从而导致高重建误差，从而标记出异常值。 在图像处理中，去噪自编码器可以清除损坏的图像，而 VAE 可以通过从学习的潜在分布中采样来生成新的数据样本。 开发人员通常使用 TensorFlow 或 PyTorch 等框架来实现自编码器，其架构针对数据类型进行了定制——卷积层用于图像，循环层用于序列数据。 它们的灵活性和简单性使它们成为无监督特征学习的基础工具。