预测分析通过将分类数据转换为机器学习模型可以处理的数值格式来处理分类数据。 分类数据，例如产品类别、用户角色或地理区域，包含离散标签而不是数值。 由于大多数算法（例如，回归、神经网络）都需要数值输入，因此像编码这样的预处理步骤至关重要。 目标是保留数据中有意义的关系，同时避免任意数值分配引入的偏差。 例如，在宠物分类任务中，将“1”分配给“狗”并将“2”分配给“猫”可能会误导模型假定存在实际不存在的有序关系。
常用技术包括独热编码、标签编码和目标编码。 独热编码为每个类别创建二进制列（例如，“is_dog”或“is_cat”作为 0/1 标志），这对于没有内在顺序的名义数据非常有效。 标签编码为每个类别分配一个唯一的整数（例如，“红色”=0，“蓝色”=1），但这仅适用于类别具有逻辑顺序的有序数据（例如，“低”、“中”、“高”）。 目标编码用该类别的目标变量的平均值替换类别（例如，用该城市的平均销售额替换“城市”）。 但是，如果类别的样本量很小，这会带来过度拟合的风险。 开发人员必须根据数据的性质和模型的要求来选择方法——例如，基于树的模型处理标签编码的效果优于线性模型，线性模型可能会将编码后的整数误解为有序的。
高基数分类数据（例如，数千个产品 ID）或罕见类别会出现挑战。 独热编码会创建过于稀疏的矩阵，从而增加内存使用量并降低模型性能。 解决方案包括将不常见的类别分组到“其他”类别中，或者使用嵌入（降维）来表示较低维度空间中的类别。 例如，在自然语言处理中，嵌入将单词转换为捕获语义关系的密集向量。 开发人员还必须处理推理期间未见过的类别——例如，训练数据中不存在的新产品 ID——通过定义回退策略，例如忽略它们或分配默认编码。 正确的验证（例如，分层抽样）可确保编码步骤概括为新数据，从而避免在使用目标编码时出现数据泄漏。 总之，关键是在计算效率与保留分类数据的信息价值之间取得平衡。