确定神经网络中每层的神经元数量需要在模型容量、计算效率和避免过拟合之间取得平衡。 没有通用的公式，但常见的策略包括分析问题的复杂性、从经验规则开始并根据性能进行迭代。 目标是使用足够的神经元来捕获数据中的模式，而不会产生不必要的计算开销或记忆噪声。
一个实用的起点是考虑输入和输出维度。 例如，在处理 20 个输入特征的密集层中，第一个隐藏层可以使用 16-32 个神经元，以避免剧烈的降维，同时允许非线性转换。 对于输出层，神经元计数通常由问题决定：回归为 1 个神经元，10 类分类任务为 10 个神经元。 对于隐藏层，一个常见的启发式方法是从输入和输出大小之间的数字开始，然后进行调整。 例如，在具有 784 个输入像素（28x28 图像）和 10 个输出类别的图像分类任务中，中间层可以使用 128-256 个神经元。 像自动编码器这样的架构通常遵循“瓶颈”模式，逐渐减少神经元（例如，784 → 256 → 64 → 10），然后扩展回来进行重建。
实验至关重要。 从基线开始（例如，小数据集的每层 64 个神经元，复杂任务的 256+ 个神经元），然后验证性能。 如果模型欠拟合（训练准确率低），则添加神经元或层。 如果模型过拟合（训练准确率高但验证准确率低），则减少神经元、添加 dropout 或使用正则化。 例如，训练具有 100 维嵌入的文本分类器可以从每层 128 个神经元的两个隐藏层开始。 如果验证准确率停滞不前，则增加到每层 256 个神经元或添加第三层可能会有所帮助。 相反，如果训练准确率达到 95% 但验证停留在 70%，则将神经元减少到每层 64 个可能会提高泛化能力。 像超参数调整库（Optuna、Keras Tuner）这样的工具可以自动执行这种探索。 最终，最佳配置取决于迭代测试、领域知识和资源约束。