在机器学习中处理高度倾斜的数据集需要采用专门的技术来解决类别不平衡问题，以防止模型偏向多数类。倾斜数据集常出现在欺诈检测、医疗诊断或稀有事件预测等场景中，这些场景中某一类的样本数量明显不足。忽略不平衡可能会导致模型具有高准确率，但实际应用价值较差，因为它们可能无法有效预测少数类。
一种常见方法是重新采样数据。这包括对少数类进行过采样（例如，使用 SMOTE 生成合成样本）或对多数类进行欠采样（例如，随机删除实例）。例如，如果数据集中 95% 表示非欺诈交易，欠采样可能会减少多数类的数量以匹配 5% 的欺诈案例。然而，如果合成数据缺乏多样性，过采样可能会导致过拟合；而欠采样可能会丢失有用信息。Python 中的 imbalanced-learn 等库提供了 RandomOverSampler 或 SMOTE 等工具来自动化这些步骤。测试这两种方法并结合使用它们（例如，先 SMOTE 再欠采样）有时可以获得更好的结果。
另一种策略是使用考虑不平衡问题的算法或评估指标。决策树、随机森林或梯度提升机器（例如 XGBoost）等模型通常比逻辑回归或 SVM 更能处理倾斜数据。例如，XGBoost 的 scale_pos_weight 参数可以调整不平衡类别的权重。精确率、召回率、F1 分数或 AUC-ROC 等评估指标应该取代准确率，因为它们更关注少数类的表现。在针对罕见疾病的医学测试中，优化召回率（最小化假阴性）可能比总体准确率更关键。此外，在模型训练期间调整类别权重（例如，scikit-learn 中的 class_weight='balanced'）可以迫使算法优先处理少数类错误。
最后，当少数类极其罕见时，异常检测或专门技术可以提供帮助。单类 SVM 或孤立森林等方法将少数类视为异常值，重点关注识别与多数类的偏差。例如，在网络入侵检测中，对正常流量模式进行建模并标记异常可能比传统分类更有效。尝试集成方法（例如，组合多个欠采样数据集）或惩罚错误分类少数类实例的自定义损失函数也可以改善结果。始终使用分层交叉验证和实际性能测试来验证方法，以确保解决方案能够推广到训练数据之外。