向量量化，例如乘积量化 (PQ)，通过将高维向量压缩成紧凑的代码来减少存储需求。PQ 不是存储全精度浮点值（例如 32 位浮点数），而是将向量分成子向量，将每个子向量分配给一个代表性质心（来自预先训练好的码本），然后只存储这些质心的索引。例如，一个 128 维的向量被分成 8 个子向量（每个 16 维），每个子向量的码本有 256 个质心，那么每个子向量索引需要 8 位（因为 256 个质心 = 8 位）。这将存储需求从 128 * 32 位 = 4096 位（对于 float32 向量）减少到 8 * 8 位 = 64 位——减少了 64 倍。压缩后的代码存储在索引中，大幅降低了内存使用，同时保留了近似的相似性关系。
对搜索精度的影响取决于压缩和近似误差之间的平衡。量化会引入误差，因为原始向量被其最近质心的近似值取代。粗粒度量化（例如，较少的质心或较多的子向量）会增加压缩率，但会降低精度，因为近似向量可能会丢失细粒度细节。例如，如果子向量码本的质心数量太少，不同的子向量可能会被映射到同一质心，从而在搜索过程中导致假阳性。然而，PQ 通过保留子向量内的局部结构来缓解这个问题。在实践中，现代系统通过仔细调整（例如，为子向量使用更大的码本）和混合方法（如多阶段搜索，其中量化向量过滤候选结果，全精度向量用于精细化结果）通常可以实现接近原始的精度。
开发者必须权衡存储节省与精度之间的取舍。例如，在一个十亿级的数据集中，PQ 可以将索引大小从 TB 级别减少到 GB 级别，从而在经济实惠的硬件上实现内存搜索。然而，与精确搜索相比，检索质量可能会下降 5-10%，这取决于数据集和参数。像残差量化或与神经网络联合训练等技术可以进一步提高精度。此外，混合索引（例如，将 PQ 与 HNSW 等基于图的方法结合）利用量化实现可伸缩性，同时保持高召回率。最终，量化是一种平衡效率和精度的实用工具，尤其是在与重排序步骤或误差感知搜索算法搭配使用时。