是的，AutoML 可以优化机器学习模型以便在边缘设备上部署。 AutoML 工具可自动执行诸如模型架构搜索、超参数调整和压缩等任务，这对于使模型适应边缘环境至关重要。这些环境通常具有有限的内存、处理能力和能源等约束，这要求模型体积小、速度快且效率高。 AutoML 通过探索准确性和资源使用之间的权衡来满足这些需求，从而生成在性能与硬件限制之间取得平衡的模型。
例如，像 Google 的 Vertex AI 或 NVIDIA 的 TAO Toolkit 这样的 AutoML 框架可以自动设计针对边缘设备优化的神经网络。他们使用诸如神经架构搜索 (NAS) 之类的技术来发现紧凑的架构（例如，MobileNet、EfficientNet-Lite），这些架构可以在不牺牲太多准确性的情况下减少计算需求。此外，AutoML 可以应用量化（将模型权重从 32 位浮点数转换为 8 位整数）来缩小模型大小并加快推理速度。像 TensorFlow Lite 的 Model Maker 这样的工具集成了 AutoML，可以针对特定的边缘用例（例如，在 Raspberry Pi 上的对象检测或在微控制器上的关键词识别）微调预训练模型。
但是，开发人员必须通过设置诸如最大模型大小、延迟阈值或功耗限制之类的约束来指导 AutoML。例如，当在无人机上部署视觉模型时，开发人员可能会将模型限制为 10MB 和 50 毫秒的推理时间。然后，AutoML 会在这些范围内测试配置，从而删除不必要的层或选择高效的算子。尽管 AutoML 简化了优化，但它并不是一个神奇的解决方案：在实际硬件上进行测试仍然对于验证性能至关重要。像 AWS SageMaker Edge Manager 或 OpenVINO 的基准测试实用程序之类的工具可帮助在优化后对模型进行分析，以确保它们满足部署要求。