背景介绍

英伟达在人工智能计算领域一直处于领先地位，其AI服务器凭借强大的GPU性能和优化的硬件配置，成为许多企业和研究机构的首选，本文将详细拆解英伟达AI服务器的主要构成部分，帮助读者了解其内部构造和功能。

目录

1、英伟达AI服务器概述

2、GPU板组

3、CPU母板组

4、存储设备

5、电源供应模组

6、散热系统

7、网络连接

8、结论

一、英伟达AI服务器概述

英伟达的AI服务器通常搭载多个高性能的GPU、CPU、大容量内存和高速存储设备，这些组件通过高效的散热系统和电源管理进行支持，确保在高负载下依然能够稳定运行。

二、GPU板组

GPU加速卡（OAM）

GPU加速卡是英伟达AI服务器的核心组件之一，负责处理深度学习和人工智能任务，DGX A100中使用的OAM加速卡包含20层Ultra Low Loss等级CCL材料，采用4阶HDI工艺，单机价值量可达2880元。

NVSwitch

NVSwitch基于NVLink标准，用于GPU之间的高效通信，它承担多数据量的高速传输，每颗价值量约为30美元，单机价值量为1170元。

GPU载板

GPU载板采用2.5/3D封装工艺，尺寸为70*70mm至100*100mm，使用14至16层FCBGA载板，单颗价值量约为650元人民币。

4. UBB（Unit Baseboard）

UBB是整体GPU平台的PCB板，面积约为0.30平方米，使用26层通孔PCB板，单机价值量为3000元。

三、CPU母板组

CPU主板

CPU主板主要用于承载CPU芯片、PCIE Switch芯片、TPM模组及各种功能性配板卡，以DGX A100为例，其CPU主板采用64核AMD Rome芯片，单机价值量为1140元。

CPU载板

CPU载板与GPU载板规格相近，每颗价值量约为1300元。

功能性配板

包括系统内存卡、网卡、拓展卡等，一般采用8至10层Mid Loss等级CCL材料，单价约为1500元/平方米。

四、存储设备

硬盘

DGX A100配备了8个3.84TB的硬盘，合计提供30TB的内部存储空间。

SSD和HDD

英伟达AI服务器通常配备高速固态硬盘（SSD）或机械硬盘（HDD），以满足大规模数据的读写需求。

五、电源供应模组

电源模组

DGX A100后部下方配有6组电源，电源内部使用厚铜PCB板，确保稳定供电。

散热系统

高效的散热系统包括多个风扇模组，确保服务器在高负载运行时能够保持低温。

六、散热系统

风扇模组

DGX A100的风扇模组由8个风扇组成，与传统服务器8U规格一致，确保整个系统在高负载下的散热效果。

散热设计

英伟达AI服务器采用高品质机箱和散热系统，确保长时间稳定运行。

七、网络连接

高速网络接口

英伟达AI服务器通常配备千兆以太网、光纤通道等高速网络接口，确保数据传输速度和联网能力。

网络适配

支持InfiniBand等高速数据通信协议，满足分布式计算的需求。

八、结论

英伟达AI服务器以其强大的GPU计算能力、高效的散热系统和稳定的电源供应，成为人工智能领域的重要工具，通过详细了解其硬件构成，我们可以更好地理解其技术优势和应用场景，随着技术的不断进步，英伟达AI服务器将继续引领行业发展，推动人工智能的应用和发展。