分层嵌入是数据的矢量表示，它编码元素之间的层次关系。与将项目表示为平面向量空间中的点标准嵌入不同，分层嵌入捕获分类法、树或嵌套类别的结构。例如，在产品目录层次结构中，如“电子产品 > 电脑 > 笔记本电脑”，层次结构的每一层（例如，作为父级的“电子产品”或作为子级的“笔记本电脑”）都将具有反映其位置和关系的嵌入。当数据具有固有的分层关系时，例如组织结构图、生物分类法或嵌套文档部分，这些嵌入非常有用。其关键思想是，层次结构中相关项目的嵌入在向量空间中更接近，无论是在语义上还是结构上。
分层嵌入的一个实际例子是为电子商务平台组织产品数据。假设某个产品属于“服装 > 男装 > 衬衫”类别。标准嵌入可能会将“衬衫”置于“裤子”或“夹克”等其他服装物品附近，但分层嵌入也会确保“衬衫”更接近其父类别“男装”，而不是像“电子产品”这样的不相关类别。另一个例子是自然语言处理（NLP），其中“动物”、“哺乳动物”和“狗”等词语构成了一个层次结构。在这里，嵌入可以强制“狗”比“爬行动物”更接近“哺乳动物”，而“哺乳动物”则保持靠近“动物”。通常使用基于树的神经网络或修改的损失函数（例如，惩罚与父节点的距离）等技术来训练这些嵌入。
为了实现分层嵌入，开发者可以调整现有的嵌入模型。例如，在神经网络中，您可以设计一个自定义损失函数，该函数将标准相似性度量（如余弦相似度）与偏离层次结构的惩罚相结合。或者，基于图的方法，如图神经网络（GNNs），可以通过层传播层次信息。一个挑战是平衡层次约束与语义意义——过度强调层次结构可能会降低模型捕获细微关系的能力。PyTorch 或 TensorFlow 等工具允许自定义架构，但处理动态层次结构（例如，不断变化的产品类别）需要仔细设计。分层嵌入在推荐系统中特别有价值，因为理解类别关系可以改进推荐；在文档检索中也很有价值，因为部分层次结构会影响相关性。通过明确地建模结构，它们比单独的平面嵌入提供了更细致的表示。