首页 / 高防服务器 / 正文
AI边缘服务器拆解,硬件构成与PCB分析,ai边缘服务器拆解教程

Time:2024年12月29日 Read:6 评论:42 作者:y21dr45

人工智能的快速发展催生了对高性能计算的需求,尤其是在数据中心和边缘计算场景中,AI服务器作为这一需求的核心,承担了大量的数据处理任务,本文通过对英伟达DGX A100 AI边缘服务器的拆解,深入探讨其硬件构成和PCB(印刷电路板)的使用情况,旨在为读者提供一个全面的理解,帮助他们在未来的升级过程中做出更明智的决策。

AI边缘服务器拆解,硬件构成与PCB分析,ai边缘服务器拆解教程

一、英伟达DGX A100 AI边缘服务器简介

英伟达DGX A100是一款具有标杆性产品力的AI服务器,外形类似于常见的家用主机,它由多个关键组件构成,每个组件在整体系统中都发挥着重要作用,通过拆解DGX A100,我们可以更好地理解其内部结构和各部分的功能。

(一)风扇模组

从服务器的前部(Front)入手,首先映入眼帘的是风扇模组板块,DGX A100的风扇模组由8个风扇组成,这一搭配与传统服务器8U规格的基本一致,风扇模组的主要作用是散热,确保服务器在高负载运行时能够保持适宜的温度。

(二)硬盘

前部风扇模组板块的下方摆放了硬盘和前控制台板(用于控制与外接设备的信号传输),DGX A100配备了8个3.84TB的硬盘,合计内部存储达到30TB,这些硬盘主要用于数据存储和快速读取,满足AI训练和推理过程中海量数据的存储需求。

(三)GPU板组

后部(Rear)是整个AI服务器的关键组件组装区域,最核心的板块就是GPU板组,GPU板组是AI服务器区别于普通服务器的关键所在,DGX A100的GPU板组主要包含GPU组件、模组板和NVSwitch三块,均涉及到不同类型的PCB产品。

1. GPU载板

英伟达A100的GPU和DRAM采用2.5/3D先进封装工艺,用于承载的板材采用70*70mm~100*100mm、14~16层的FCBGA载板,数量上与GPU数量存在一一对应关系,按照DGX A100搭载8颗GPU的数量来看,一台AI服务器需要用到8颗GPU载板;根据产业链调研,单颗价值量约为100美元,即650元人民币/颗,由此对应单机GPU载板价值量为5200元。

2. NVSwitch

基于NVLink标准用于GPU之间通信的基础模组,搭载NVSwitch的载体是类似于载板的产品,加工性要求较简单、关键是承担多数据量高速传输的性能,根据产业链调研,单颗价值量约为30美元,即195元/颗,按A100搭载6颗计算可得单机价值量为1170元。

3. OAM

OCP Accelerator Module,中文简称GPU加速卡,是用于承载GPU芯片的板卡,数量上看OAM与GPU存在一一对应的关系,以DGX A100搭载8个GPU的数量来看,一台AI服务器需要用到8块OAM,面积上来看,借鉴PCIE版本267.7mm*111.15mm的尺寸规格(内部PCB规格与外壳规格基本一致),可测算出OAM的面积尺寸约为0.03平方米;PCB板型上来看,由于OAM涉及到GPU高速多线路信号传递,根据产业链调研,DGX A100 OAM的SXM版本需要用到20层、Ultra Low Loss等级CCL材料、4阶HDI工艺,对应产品单价为12000元/平方米,DGX A100 OAM的PCIE版本相对规格较低,只需要用到14层、Ultra Low Loss和高Tg FR4等级CCL材料混压、1阶HDI工艺,对应产品单价7000元/平方米,综合来看,如果按照DGX A100机型配置,高端AI服务器的OAM单价价值量将达到2880元。

4. UBB

Unit Baseboard,中文简称GPU模组板,是用于搭载整个GPU平台的PCB板,一台AI服务器对应1块UBB,根据DGX A100整机底面规格和产业链调研,我们预估UBB面积约为0.30平方米,需要用到26层通孔PCB板,CCL材料运用Ultra Low Loss,对应单价约为10000元/平方米,对应单机价值量为3000元。

综上合计,英伟达DGX A100 GPU板组主要由GPU载板、NVSwitch、GPU加速卡、GPU模组板四部分组成,四部分合计单机PCB面积达到0.624平方米,对应PCB单机价值量为12250元,其中载板级别的产品单机价值量为6370元、占比52%,PCB级别的产品单机价值量5880元、占比48%。

(四)CPU母板组

CPU母板组是所有服务器的核心部件之一,包括CPU母板、系统内存和网卡等,这部分涉及到大量的PCB用量。

1. CPU载板

根据产业链调研,CPU载板与GPU载板规格相近,如果按单颗CPU载板价值量100美元、DGX搭载2颗CPU,则单机价值量约为1300元。

2. CPU主板

主要用于承载CPU芯片、PCIE Switch芯片、TPM模组及各种功能性配板卡,该类PCB板的规格主要由CPU平台设计和总线标准决定,按照DGX A100的方案,主要采用64核AMD Rome的CPU芯片、总线标准仍然为PCIE 4.0,因此CPU主板仍然采用10~12层、Low Loss等级CCL材料、通孔板的设计,根据产业链调研,单价约为3000元/平方米;按照DGX A100的尺寸规格设计,估测CPU主板面积为0.38平方米,由此可计算CPU主板单机价值量为1140元。

3. 功能性配板

配板种类较多,根据产业链调研,配板一般采用的规格是8~10层板、Mid Loss等级CCL,单价约为1500元/平方米,面积和数量参照DGX A100则为:

- CPU内存卡:DGX A100设计配置32块CPU内存卡、合计2TB RAM,一般来说服务器CPU内存卡行业有较为统一的标准尺寸,估测单块内存卡面积约为0.004平方米/片;

- 网卡:DGX A100网卡采用Mellanox ConnectX系列产品(有X-7和X-6的产品选配),标配的网卡为10张(8个单端口200Gb/s的IB,2个双端口200Gb/s以太网),根据英伟达官网披露的信息,单张网卡面积约为0.012平方米。

上述四部分合计,功能性配板单机面积为0.27平方米,对应单机价值量约为405元。

综上合计,英伟达DGX A100 CPU母板组PCB用量面积合计为0.662平方米,单机价值量约为2845元,其中载板级产品占比46%,PCB级的主板产品占比40%,PCB级的配板产品占14%。

(五)电源模组

DGX A100后部的下方还配有6组电源,电源内部会涉及到厚铜PCB板的使用,电源模组的主要作用是为服务器提供稳定的电力支持,并确保各部件在高效运转时能够获得足够的电能。

二、结论

通过对英伟达DGX A100 AI边缘服务器的拆解和分析,我们可以看到其在硬件构成上的复杂性和精密性,从风扇模组到硬盘、GPU板组、CPU母板组以及电源模组,每一个部分都扮演着至关重要的角色,而在这些组件中,PCB作为核心的基础构件,其价值量和重要性不容忽视。

在未来的升级过程中,了解这些硬件构成和PCB的使用情况将有助于我们更准确地评估成本和性能之间的平衡,随着AI技术的不断进步和应用范围的扩大,对于更高性能、更低功耗的AI服务器的需求将会持续增长,深入研究和理解这些基础构件的工作原理和优化空间是非常有必要的。

排行榜
关于我们
「好主机」服务器测评网专注于为用户提供专业、真实的服务器评测与高性价比推荐。我们通过硬核性能测试、稳定性追踪及用户真实评价,帮助企业和个人用户快速找到最适合的服务器解决方案。无论是云服务器、物理服务器还是企业级服务器,好主机都是您值得信赖的选购指南!
快捷菜单1
服务器测评
VPS测评
VPS测评
服务器资讯
服务器资讯
扫码关注
鲁ICP备2022041413号-1