发布于 2025-07-13
摘要
摘要:随着人工智能技术的快速发展,大模型在各个领域的应用越来越广泛。大模型的训练和推理对计算资源的需求极高,传统的集中式部署模式难以满足大规模应用的需求。本文将探讨基于PyTorch的端云协同部署架构,通过边缘推理
