向量空间建模是信息检索 (IR) 中使用的一种技术，用于将文本文档和查询表示为多维空间中的数值向量。 核心思想是将单词、短语或整个文档映射到一种结构化格式，以便可以用数学方法测量它们的语义或上下文关系。 该空间中的每个维度对应于语料库中的唯一术语（例如，单词或 n-gram），并且每个维度上的值表示该术语在文档或查询中的重要性或频率。 通过将文本转换为向量，IR 系统可以计算相似度得分（如余弦相似度），以确定文档与搜索查询的匹配程度。 例如，一篇关于“机器学习算法”的文档可以表示为一个向量，该向量在“神经网络”和“训练数据”等术语上具有较高的值，而对“AI 模型”的查询将有自己的向量，从而允许系统根据文档在该空间中的接近程度对其进行排名。
要构建向量空间模型，开发人员通常遵循几个关键步骤。 首先，对文本进行预处理：提取术语，删除停用词（例如，“the”、“and”），并将单词进行词干化或词形还原（例如，“running”变为“run”）。 接下来，创建一个术语文档矩阵，其中行表示文档，列表示术语，单元格包含权重，例如 TF-IDF（词频-逆文档频率）。 TF-IDF 平衡术语在文档中的频率 (TF) 与其在整个语料库中的稀有程度 (IDF)。 例如，如果单词“区块链”经常出现在特定文档中，但很少出现在其他文档中，则它将具有较高的 TF-IDF 分数，使其成为相关性的有力指标。 最后，使用相同的术语权重将查询转换为向量，从而实现相似性比较。 这种方法允许开发人员实施高效的搜索系统，因为即使对于大型数据集，向量运算在计算上也是可管理的。
虽然向量空间建模是 IR 的基础，但它也有局限性。 高维向量可能会变得稀疏（许多零值），从而增加存储和计算成本。 维度降低（例如，奇异值分解）或现代嵌入（例如，Word2Vec）等技术通过将向量压缩为更密集的表示来解决这个问题。 此外，传统的 TF-IDF 模型无法捕捉语义含义——例如，“汽车”和“自动驾驶汽车”被视为不同的术语。 开发人员通常将向量模型与其他方法结合使用，例如 BM25 进行排名或基于 transformer 的模型（如 BERT）进行上下文感知检索。 例如，搜索引擎可以使用 TF-IDF 向量进行初始候选检索，然后应用神经重排序器来提高精度。 尽管向量空间建模存在已久，但由于其简单性、可解释性和对混合系统的适应性，它仍然具有相关性。