PyTorch 是一个开源的机器学习框架，主要用于构建和训练深度学习模型。它由 Facebook 的 AI 研究实验室 (FAIR) 开发，提供用于创建神经网络、处理张量计算和自动执行梯度计算的工具和库。PyTorch 以其动态计算图而闻名，该计算图允许开发人员在执行期间动态修改网络行为。 这种灵活性使其在研究和实验中很受欢迎。它与 Python 紧密集成，利用其生态系统进行数据加载、可视化和预处理。PyTorch 还支持通过 CUDA 进行 GPU 加速，从而能够在 NVIDIA GPU 等硬件上进行高效训练。
在实践中，PyTorch 通过组合 torch.nn 模块中的层（例如，线性层、卷积层）来定义神经网络。例如，一个简单的图像分类器可能使用 nn.Conv2d 和 nn.Linear 层，并在它们之间应用激活函数（如 nn.ReLU）。该框架的 autograd 系统会自动跟踪张量上的操作，以在反向传播期间计算梯度，从而简化优化。开发人员通常定义一个训练循环，该循环迭代数据批次、计算损失（例如，nn.CrossEntropyLoss）并使用优化器（如 torch.optim.SGD 或 Adam）更新模型参数。PyTorch 的数据实用程序（如 Dataset 和 DataLoader）简化了 CIFAR-10 或 MNIST 等数据集的加载和批处理。
PyTorch 的一个关键优势在于其在灵活性和可用性之间的平衡。例如，动态计算图对于具有可变长度输入的模型（例如，处理文本的循环神经网络 (RNN)）非常有用。研究人员经常使用 PyTorch 来原型化新颖的架构，而生产系统可以通过 TorchScript 导出模型以进行部署。TorchVision（用于计算机视觉）和 Hugging Face Transformers（用于 NLP）等库使用预构建的组件扩展了 PyTorch。由于 Python 的互操作性和操作的立即执行（与静态图框架不同），调试非常简单。社区支持和广泛的文档进一步降低了学习曲线，使 PyTorch 成为学术和工业深度学习项目的首选工具。