联邦学习中非独立同分布 (non-independent and identically distributed) 的数据会带来挑战，降低模型性能、减缓收敛速度，并产生公平性问题。在联邦学习中，设备或客户端在其数据上进行本地训练，并与中央服务器共享更新。当数据为非 IID 时——意味着客户端之间的数据分布差异很大——全局模型难以有效地泛化。例如，一个客户端可能拥有猫的图像，而另一个客户端只有狗的图像，或者一个区域的传感器数据与另一个区域的数据差异很大。这种不匹配破坏了传统机器学习的假设，即模型期望一致的输入模式。
主要影响是降低模型准确性。在倾斜数据上训练的本地模型向服务器发送冲突的更新。想象一下，训练一个单词预测模型，其中一个用户编写技术文档，而另一个用户使用随意的俚语——全局模型可能会过度拟合主要风格，或者无法平衡两者。此外，非 IID 数据会减缓收敛速度。在标准联邦平均 (FedAvg) 中，服务器假设客户端共享相似的数据，从而聚合更新。当客户端的数据发散时，它们的梯度更新指向冲突的方向，需要更多的通信轮次才能稳定。例如，一个医疗保健应用程序聚合来自具有不同患者人群的医院的数据可能需要更长的时间来训练可靠的诊断模型，从而增加计算和通信成本。
非 IID 数据还会带来不公平的风险。具有稀有数据分布的客户端——比如语音识别系统中的少数语言——可能会看到较差的个性化性能。这是因为全局模型优先考虑主要模式。缓解策略包括使用正则化技术来防止本地过度拟合、按数据相似性对客户端进行聚类，或者使用个性化联邦学习，让每个客户端微调全局模型。例如，推荐系统可以按互动历史记录对用户进行分组，并训练特定于集群的模型。开发人员必须尽早评估客户端之间的数据分布，并选择专为异构性设计的算法，例如自适应优化方法或基于数据质量的加权聚合。解决非 IID 数据对于确保联邦学习在数据多样性不可避免的真实场景中可靠地工作至关重要。