神经网络是一种计算模型，其灵感来源于生物大脑的结构和功能。它由相互连接的节点或“神经元”组成，这些节点按层组织：输入层、一个或多个隐藏层以及输出层。每个神经元通过应用数学运算（通常是加权求和后接非线性激活函数）来处理输入数据，并将结果传递给下一层。例如，在图像分类任务中，输入层可能代表像素值，隐藏层检测边缘或纹理，而输出层为可能的标签（如“猫”或“狗”）分配概率。神经网络的强大之处在于它们能够从数据中学习分层模式，而无需依赖于显式的手工规则。
训练神经网络涉及调整神经元之间连接的权重，以最小化预测误差。这通常使用梯度下降等优化算法完成，该算法计算每个权重对误差的贡献（通过反向传播），并相应地更新权重。例如，如果一个网络将手写数字“7”错误分类为“1”，训练过程会微调权重以减少未来迭代中发生此类错误的可能性。经过多个训练周期（epochs），网络通过优化这些连接逐渐提高其准确性。关键的超参数，例如学习率（权重更新的步长）和批处理大小（一次处理的样本数量），会影响模型的学习效率。
神经网络用途广泛，可以适用于各种任务。卷积神经网络 (CNN) 擅长使用检测空间模式的滤波器处理网格状数据（例如图像）。循环神经网络 (RNN) 具有类似内存的结构，能够处理文本或时间序列等序列数据。TensorFlow 或 PyTorch 等现代框架通过提供预构建的层和优化工具来简化实现。例如，开发人员可以使用 PyTorch 的 nn.Linear 类创建全连接层，或使用 nn.Conv2d 创建卷积层。虽然神经网络需要大量的计算资源和数据，但它们的灵活性和性能使其成为机器学习应用（从自然语言处理到自动驾驶系统）的基石。