存储原始向量、压缩表示或向量引用涉及检索速度和存储效率之间的不同权衡。原始向量是原始的、未压缩的数值表示（例如，512 维 float32 数组）。它们提供最快的检索速度，因为不需要解码，但它们会消耗大量存储空间。压缩表示，例如向量的量化或编码版本，降低了存储成本，但需要在检索期间进行计算来解压缩。引用（例如，数据库 ID 或外部键）通过指向存储在其他位置的向量来最小化本地存储，但检索速度取决于外部系统的延迟。每种方法都在存储节省和检索性能之间进行不同的平衡。
存储节省差异很大。一个原始的 1024 维 float32 向量占用 4 KB（1024 * 4 字节）。存储 100 万个这样的向量需要约 4 GB。产品量化 (PQ) 等压缩方法可以通过将子向量分组到码本中来减少这一点。例如，PQ 可能会用 8 位索引表示每个子向量，从而将存储空间减少到约 256 MB——减少 16 倍。引用，例如 8 字节的数据库 ID，对于 100 万个条目仅需要约 8 MB。但是，压缩向量会降低精度，从而影响检索准确性，而引用会将存储卸载到另一个系统（例如，数据库），而不会减少总数据量。选择取决于您是优先考虑本地存储减少还是愿意管理外部依赖项。
检索速度受到数据可访问性的很大影响。原始向量允许立即用于相似性计算，这对于低延迟应用程序（如实时推荐系统）至关重要。压缩向量需要解码：例如，基于 PQ 的系统必须从码本中重建近似向量，从而增加开销。虽然 FAISS 等库通过预计算查找表对此进行了优化，但与原始向量相比，该过程仍然会增加延迟。引用引入了最大的可变性：通过网络调用从数据库中获取向量可能需要几毫秒，这使得它们不适合高吞吐量场景。但是，如果引用指向内存缓存，则可以最大限度地减少延迟。开发人员必须权衡存储节省是否足以证明更慢的检索速度或增加的系统复杂性（例如，维护单独的向量存储）。