量化技术是一种通过将数值从高精度格式（如 32 位浮点数）转换为低精度格式（如 8 位整数）来降低数据内存或计算成本的方法。在向量压缩的背景下，这意味着通过使用较少的位来近似向量的分量，从而缩小向量的大小——例如嵌入或特征表示。例如，一个以 32 位浮点数存储的向量可以被压缩为 8 位整数，从而将存储需求减少 75%。这个过程会引入一些精度损失，但如果小心操作，准确性和效率之间的权衡对于许多实际应用来说是可以接受的。
量化通过将连续值的范围映射到离散的桶中来工作。一种简单的方法是标量量化，其中向量中的每个元素被单独缩放并四舍五入以适应较低位的表示。例如，如果一个向量的值范围在 -10 到 10 之间，您可能会将此范围划分为 256 个间隔（用于 8 位存储），并将每个原始值替换为最近的桶的中点。更高级的方法，如乘积量化，将向量拆分为子向量，并使用码本分别量化每个子向量。例如，一个 128 维的向量可以被划分为 8 个 16 维的子向量。然后，每个子向量被码本中最接近的条目替换（例如，每个码本 256 个条目，存储为 8 位索引）。这进一步减少了存储，因为每个子向量由一个码本索引而不是单个值表示。
量化的主要好处是高效的存储和更快的计算。压缩后的向量占用更少的内存，使更大的数据集能够放入 RAM 或 GPU 内存——这对于推荐系统中的相似性搜索等任务至关重要。例如，一个包含 100 万个 512 维向量并以 32 位浮点数存储的数据库需要 2 GB 的内存。使用 8 位量化将其减少到 0.5 GB，允许在内存中处理更多数据。此外，可以使用整数运算加速诸如点积或欧几里得距离计算之类的操作，这在大多数硬件上都更快。但是，开发人员必须平衡压缩与准确性：激进的量化（例如，4 位）可能会降低下游任务的性能。使用真实数据和验证指标（如最近邻搜索中的召回率）进行测试对于选择正确的方法至关重要。像 FAISS 或 PQkNN 这样的库提供了内置的量化工具，使试验这些权衡更容易。