在2024年9月20日的华为全联接大会上，华为云发布了一项重要的技术创新——AI原生云基础设施架构CloudMatrix，这一新架构的推出标志着华为在满足AI时代企业对大规模、高效稳定、弹性灵活算力需求方面迈出了坚实的一步，随着AI算力需求的高速增长，构建弹性高效的多元算力基础设施已成为AI发展的关键，本文将详细介绍CloudMatrix的核心特点及其对AI领域的影响。

一切皆可池化

CloudMatrix通过CPU和NPU的结合，为客户提供强大的通用计算和智能计算能力，借助华为云分布式QingTian技术，突破了单服务器的能力边界，实现了服务器内CPU、NPU、DPU、存储和内存等多样资源的统一池化和灵活配置，这种大规模、紧耦合的多元算力池化架构显著提升了整体算力，在处理复杂的AI任务时，CloudMatrix可以动态调整资源分配，确保每个任务都能获得最优的计算支持。

一切皆对等

CloudMatrix采用超高带宽ScaleUp网络，从传统的以太网向共享总线以太网演进，实现了池化算力的高速互联，通过自适应拓扑感知技术，打破了集群线性度的瓶颈，将大模型训练集群的线性度提升至95%，新的网络协议实现了跨物理服务器的统一标识、统一访问和消息通信机制，使得资源能够全部对等连接，既可以水平扩展，也可以垂直扩展，这种设计不仅提高了网络故障恢复的速度（分钟级），还增强了系统的稳定性和可扩展性。

一切可组合

CloudMatrix能够按需组合多样化的算力资源，并根据应用需求灵活调整，在统一多元算力逻辑池化和高速全对等互联的基础上，通过瑶光智能云脑对云上资源进行多元算力统一建模、灵活调度组合，按需提供给各种应用场景，无论是大模型还是小模型的训练和推理，亦或是数据分析、媒体内容生成等更多应用场景，CloudMatrix都能提供强有力的支持。

昇腾AI云服务

基于CloudMatrix架构，华为云将于年底上线新一代昇腾AI云服务，这一服务将进一步提升AI原生基础设施的效能，为客户提供更加澎湃的AI算力，昇腾AI云服务不仅适用于训练和推理工作，还能广泛应用于数据分析、媒体内容生成等领域，助力各行各业实现智能化转型。

All Intelligence战略

在全面智能化战略的指引下，华为致力于打造坚实的算力底座，使能百模千态，赋能千行万业，孟晚舟在华为全联接大会上表示，华为将持续提升“软硬芯边端云”的融合能力，做厚“黑土地”，满足各行各业多样性的AI算力需求，通过算力底座、AI平台和开发工具的开放，支持大模型在智能化时代的“百花齐放”，每个组织都可以使用自己的数据训练出自己的大模型，让每个行业都能用自己的专业知识发展出自己的行业大模型。

昇腾AI计算集群Atlas 900 SuperCluster

华为全新架构的昇腾AI计算集群Atlas 900 SuperCluster可支持超万亿参数的大模型训练，该集群采用了全新的华为星河AI智算交换机CloudEngine XH16800，借助其高密的800GE端口能力，两层交换网络即可实现2250节点（等效于18000张卡）超大规模无收敛集群组网，Atlas 900 SuperCluster使用了创新的超节点架构，大大提升了大模型训练能力，华为在计算、网络、存储、能源等领域的综合优势，从器件级、节点级、集群级和业务级全面提升了系统可靠性，将大模型训练稳定性从天级提升到月级。

AI服务器市场背景

近年来，随着生成式AI和AI大模型的快速发展，算力缺口越来越受到重视，三大运营商陆续开启AI服务器的大规模采购，例如中国移动启动了两次大规模的AI服务器集采项目，总规模合集超万台，据中金公司研报显示，在国内AI大模型推动AI算力需求持续提升的过程中，随着国产算力芯片的逐步升级，国产算力硬件的份额有望进一步提升。

华为发布的CloudMatrix架构及其新一代昇腾AI云服务和昇腾AI计算集群Atlas 900 SuperCluster，不仅展示了华为在AI领域的技术实力，也为各行各业的智能化转型提供了强有力的支持，随着AI技术的不断发展和应用，华为将继续发挥其在计算、网络、存储、能源等领域的优势，推动AI原生基础设施的进步，为全球客户提供更加高效、稳定、弹性的AI算力服务。