背景介绍

AI服务器是专门为执行人工智能、机器学习和深度学习任务设计的高性能计算机，它们通常用于处理大量数据，训练复杂的算法模型，并在相对较短的时间内完成这些任务，AI服务器在现代科技领域中扮演着至关重要的角色，被广泛应用于各个领域，包括医疗、金融、自动驾驶、科学研究等，本文将拆解一台典型的AI服务器，揭示其内部结构和各个组成部分的功能。

主要硬件部分

1、GPU板组

2、CPU母板组

3、配件

GPU板组

GPU（图形处理单元）板组是AI服务器的核心组件之一，负责处理大量并行计算任务，这部分包含GPU组件、模组板和NVSwitch。

1.1 GPU 载板

- 英伟达A100的GPU和DRAM采用2.5/3D封装工艺。

- 尺寸规格为70*70mm~100*100mm，层数为14~16层。

- 每颗GPU需要一块对应的载板，单颗价值量约为100美元（650元人民币）。

1.2 NVSwitch

- 基于NVLink标准，用于GPU之间的通信。

- 载体类似于载板，承担多数据量高速传输性能。

- 单颗价值量约为30美元（195元人民币）。

1.3 OAM

- 全称OCP Accelerator Module，即GPU加速卡。

- 尺寸规格为267.7mm*111.15mm，面积约为0.03平方米。

- DGX A100的OAM需要用到20层的Ultra Low Loss等级CCL材料，单机价值量为2880元。

1.4 UBB

- 全称Unit Baseboard，即GPU模组板。

- 用于搭载整个GPU平台，面积约为0.30平方米。

- 采用26层通孔PCB板，单价约为10000元/平方米，单机价值量为3000元。

综上，GPU板组的单机PCB面积达到0.624平方米，对应单机价值量为12250元。

CPU母板组

CPU母板组是所有服务器的核心部件，无论是普通服务器还是AI服务器，都包含以下组件：

2.1 CPU 载板

- 与GPU载板规格相近，单颗价值量约为100美元（650元人民币）。

- DGX A100配置2颗CPU，单机价值量为1300元。

2.2 CPU主板

- 主要用于承载CPU芯片、PCIE Switch芯片、TPM模组及各种功能性配板卡。

- 采用64核AMD Rome的CPU芯片，总线标准为PCIE 4.0。

- PCB板的规格为10~12层，Low Loss等级CCL材料，单价约为3000元/平方米。

- 估测CPU主板面积为0.38平方米，单机价值量为1140元。

2.3 功能性配板

- 包括系统内存卡、网卡、拓展卡、存储操作系统驱动板。

- 一般采用8~10层板，Mid Loss等级CCL，单价约为1500元/平方米。

- 32块CPU内存卡合计2TB RAM，单块内存卡面积约为0.004平方米。

综上，CPU母板组的单机价值量为2845元。

配件

除了核心的GPU板组和CPU母板组，AI服务器还包括一些重要的配件，如风扇模组、硬盘和电源模组。

3.1 风扇模组

- 由8个风扇组成，与传统服务器8U规格一致。

- 确保服务器在高负载运行时能够有效散热。

3.2 硬盘

- DGX A100配备8个3.84TB的硬盘，合计内部存储30TB。

- 位于前部风扇模组板块的下方。

3.3 电源模组

- DGX A100后部的下方配有6组电源。

- 电源内部涉及到厚铜PCB板的使用。

通过对AI服务器的拆解分析，可以发现其主要组成部分包括GPU板组、CPU母板组和一些必要的配件，每个部分都在AI服务器的性能和功能中起着关键作用，理解这些组件及其相互关系，对于未来升级和维护AI服务器具有重要价值，随着技术的不断进步，AI服务器的性能将继续提升，应用范围也将更加广泛。