深度学习中的嵌入层是一种神经网络组件，它将离散的类别数据（例如词语或 ID）映射到连续的向量表示中。这些向量捕获输入数据的语义或关系信息，使其更适用于下游任务。例如，在自然语言处理 (NLP) 中，词语被转换为稠密向量，其中相似的词语（如“猫”和“狗”）在向量空间中的距离比不相关的词语更近。与创建稀疏高维向量的传统独热编码不同，嵌入层降低了维度，并使模型能够更有效地泛化模式。
嵌入层通过在训练期间学习一个查找表来工作。每个唯一的输入类别（例如词汇表中的一个词）都被赋予一个固定大小（例如 128 维）的可训练向量。当模型处理输入时，该层会从该表中检索相应的向量。例如，在文本分类模型中，输入句子“I love coding”可能会被分词成索引 [5, 12, 7]，嵌入层将输出三个向量（每个词元一个）。这些向量通过反向传播进行更新，以最小化模型的损失，确保它们捕获有意义的关系。TensorFlow 或 PyTorch 等框架将其实现为一个可训练矩阵，其中行索引对应于输入词元，列表示嵌入维度。
嵌入层广泛应用于自然语言处理 (NLP)（例如用于情感分析的词嵌入）、推荐系统（例如用户/物品嵌入），甚至用于表格数据中的类别特征。一个实际例子是训练电影推荐模型：用户 ID 和电影 ID 通过嵌入层，生成捕获偏好和属性的向量。开发者可以随机初始化嵌入，或使用预训练向量（如 Word2Vec 或 GloVe）来启动训练。一个关键优势是效率——为一个包含 10,000 个词语、维度为 128 的词汇表存储嵌入只需要 128 万个参数，远少于独热编码方法。此外，可以对嵌入进行可视化（例如使用 t-SNE），以解释学习到的关系，帮助进行模型调试和分析。