近似最近邻 (ANN) 搜索方法（如 Faiss 中的方法）通过减少找到匹配项所需的比较次数来加速 Sentence Transformer 嵌入的相似性搜索，同时通过智能索引策略保持可接受的准确性。 ANN 方法不是详尽地将查询嵌入与数据集中的每个向量进行比较（如在精确搜索中），而是使用预处理的结构（如 HNSW（分层可导航小世界）或 IVF（倒排文件索引））将搜索限制为候选向量的子集。精度和速度之间的这种权衡由可配置的参数控制，允许开发人员根据其用例平衡性能。
Faiss 的 HNSW 索引将嵌入组织成分层图结构，其中每个节点连接到一小组邻居。 在搜索期间，算法会导航此图，从高层（粗略关系）开始，逐步移动到较低层（更精细的细节）。 这种方法跳过了向量空间的不相关区域，大大减少了距离计算的数量。 例如，使用 HNSW，查询可能只评估总向量的 1%，但仍然可以找到 95% 的真实顶部匹配项。 同样，IVF 将数据集划分为聚类（使用 k-means 等技术），并且仅搜索最接近查询的聚类。 如果数据集有 1M 个嵌入，分为 1,000 个聚类，则查询可能会检查 10-50 个聚类，而不是所有 1M 个向量。 这两种方法都利用了 Sentence Transformer 嵌入的固有结构，该结构将语义相似的文本映射到向量空间中的附近区域，确保搜索过程中的快捷方式不会跳过有意义的候选者。
通过调整索引参数来保持准确性。 对于 HNSW，增加 efSearch 参数（遍历期间候选队列的大小）或图连接的数量 (m) 可以提高召回率，但会增加内存和计算成本。 对于 IVF，提高 nprobe 值（要搜索的聚类数）会增加包含相关向量的可能性。 例如，在具有 10M 个嵌入的检索任务中，使用具有 4,096 个聚类且 nprobe=32 的 IVF 可以实现 90% 的召回率，并且速度比精确搜索快 50 倍。 开发人员可以使用 recall@k 等指标或通过在标记数据的子集上进行测试来验证这些权衡。 通过将这些技术与高效的距离计算（例如，用于余弦相似度的内积）和硬件优化（例如，Faiss 中的 GPU 加速）相结合，ANN 方法可以实现可扩展的实际应用，例如语义搜索或推荐系统，而不会显着损失准确性。