分布式训练

DeepSpeed是由微软开源的深度学习优化库，旨在通过创新技术提升大规模模型训练和推理的效率和可扩展性。

Apache MXNet是一个开源的深度学习框架，支持多种编程语言，提供灵活的前端和高效的分布式训练能力。

昇思MindSpore是华为自研的开源深度学习框架，支持端、边、云全场景部署，提供友好的设计和高效的执行，旨在提升数据科学家和算法工程师的开发体验。