背景介绍

随着信息技术的迅猛发展，人工智能技术在金融行业的应用日益广泛，作为金融服务的重要支柱，券商行业正在快速引入AI技术以提升市场分析、风险管理和客户服务的能力，AI服务器作为这些智能应用的核心计算平台，其性能和架构直接影响到券商运营的效率和效果，了解和拆解券商使用的AI服务器的内部构造及其工作流程，对于评估其技术实力和未来升级方向至关重要。

一、AI服务器硬件构成概述

券商用的AI服务器通常包括多种硬件组件，每个组件都有其特定的功能，以下是主要的硬件部分：

1、GPU板组

GPU载板：用于承载GPU芯片，采用2.5/3D封装工艺，尺寸约为70*70mm~100*100mm，厚度为14~16层。

NVSwitch：基于NVLink标准的基础模组，负责GPU之间的高速通信。

OAM（GPU加速卡）：承载GPU芯片的板卡，尺寸约为267.7mm x 111.15mm，采用20层或14层PCB板，使用Ultra Low Loss等级CCL材料。

UBB（Unit Baseboard）：用于搭载整个GPU平台的PCB板，面积大约0.30平方米，使用26层通孔PCB板。

2、CPU母板组

CPU主板：承载CPU芯片、PCIE Switch芯片、TPM模组等，采用10~12层PCB板。

系统内存：用于数据缓存和快速访问，通常为高性能DDR内存。

网卡：用于网络连接和数据传输。

功能性配板：包括系统内存卡、拓展卡、存储操作系统驱动板等，通常为8~10层PCB板。

3、硬盘和电源

硬盘：提供大容量存储，通常配置多个3.84TB硬盘，总容量可达30TB。

电源模组：提供稳定的电力供应，内部使用厚铜PCB板。

4、风扇模组

风扇：用于散热，保持服务器内部的良好散热环境，通常由8个高效能风扇组成。

二、AI服务器拆解流程

初步准备

在开始拆解AI服务器之前，需要做好以下准备工作：

断电并静置：确保服务器已经完全断电，并且静置一段时间，以便内部电容完成放电，防止拆解过程中遭遇电击。

穿戴防护设备：佩戴防静电手环和护目镜，以防止静电对电子元件造成损害，并保护眼睛免受灰尘侵害。

准备工具：包括但不限于螺丝刀套装、钳子、防静电袋、记号笔和拍照设备。

外部拆解

外部拆解是整个拆解过程的第一步，主要目的是移除服务器的外壳、风扇模组和硬盘等外部组件：

移除外壳：使用对应的螺丝刀拆除服务器外壳的螺丝，小心取下外壳，注意不要用力过猛以防变形，记录每个螺丝的长度和位置，以便后续还原。

风扇模组：风扇模组通常位于服务器的前方或后方，具体位置根据型号有所不同，拆除风扇时，需先断开与主板的连接线缆，再移除固定螺丝。

硬盘：硬盘一般安装在服务器的前部或中部，通过固定的硬盘架进行固定，拆除硬盘架的固定螺丝，将硬盘轻轻取出，放入防静电袋中保存。

电源模组：电源模组通常位于服务器的后部或底部，断开电源与主板及其他组件的连接线缆，再拆除固定螺丝，取出电源模组，注意电源的重量较大，拆除时需特别小心。

内部拆解

内部拆解是整个拆解过程的核心步骤，涉及到GPU、CPU及主板等核心部件的拆卸：

GPU板组拆解：GPU板组通常位于服务器的后部，首先断开与主板的连接线缆，再拆除固定螺丝，轻轻取出GPU板组，由于GPU板组较为敏感且价值较高，操作时需特别小心，使用拍照设备记录每个部件的位置和连接方式，以便后续组装。

CPU主板拆解：CPU主板是服务器的核心部分之一，位于机器的中心位置，断开与各组件的连接线缆，特别是CPU与散热器的连接，拆除固定CPU主板的螺丝，轻轻取出主板，记录每个部件的位置和连接方式。

其他组件：包括内存条、网卡和其他扩展卡等，依次拆除连接线缆和固定螺丝，分类放入防静电袋中保存。

详细检查与记录

拆解完成后，对所有拆解下来的部件进行详细的检查和记录：

部件完整性检查：仔细检查每个部件是否有物理损坏、烧蚀或其他异常情况，特别注意焊接点和接口处的状况。

记录部件信息：使用记号笔和标签记录每个部件的具体信息，如型号、规格、序列号等，拍摄每个部件的照片，尤其是关键部件，以便后续参考。

绘制架构图：根据拆解过程中拍摄的照片和记录的信息，绘制详细的服务器架构图，标注每个部件的位置和连接方式，形成完整的技术文档。

三、AI服务器各硬件部分详解

GPU板组

1.1 GPU载板

规格与功能：GPU载板主要用于承载GPU芯片和DRAM颗粒，采用2.5/3D封装工艺，尺寸范围为70*70mm至100*100mm，厚度为14至16层，每块载板的价值量大约为650元人民币。

设计特点：GPU载板的设计考虑了散热和信号完整性，确保在高负载下稳定运行。

1.2 NVSwitch

规格与功能：NVSwitch是基于NVLink标准的基础模组，负责GPU之间的高速通信，每颗NVSwitch的价值量为195元人民币。

设计特点：NVSwitch的设计重点在于多数据量的高速传输性能，确保各个GPU之间能够高效协同工作。

1.3 OAM（OCP Accelerator Module）

规格与功能：OAM是承载GPU芯片的板卡，尺寸约为267.7mm x 111.15mm，DGX A100机型的OAM需要20层PCB板，使用Ultra Low Loss等级CCL材料，单价为12000元/平方米，PCIe版本的OAM相对规格较低，只需14层PCB板，单价为7000元/平方米。

设计特点：OAM的设计考虑了高速信号传输和散热性能，确保在高频运算时保持稳定。

1.4 UBB（Unit Baseboard）

规格与功能：UBB是用于搭载整个GPU平台的PCB板，面积约为0.30平方米，使用26层通孔PCB板，单价约为10000元/平方米。

设计特点：UBB的设计注重结构强度和信号完整性，确保整个GPU平台的稳定性和可靠性。

CPU母板组

2.1 CPU载板

规格与功能：CPU载板用于承载CPU芯片和相关组件，规格与GPU载板相近，单颗CPU载板的价值量为1300元人民币。

设计特点：CPU载板的设计考虑了CPU的散热和稳定性，确保在高负载下可靠运行。

2.2 CPU主板

规格与功能：CPU主板承载CPU芯片、PCIE Switch芯片、TPM模组等组件，采用10~12层PCB板，使用Low Loss等级CCL材料，单价约为3000元/平方米。

设计特点：CPU主板的设计考虑了系统的扩展性和兼容性，支持多种功能模块的集成。

2.3 功能性配板

规格与功能：功能性配板包括系统内存卡、网卡、拓展卡等，通常采用8~10层PCB板，使用Mid Loss等级CCL材料，单价约为1500元/平方米。

设计特点：功能性配板的设计注重灵活性和可扩展性，满足不同应用场景的需求。

硬盘和电源模组

3.1 硬盘

规格与功能：DGX A100配备了8个3.84TB的硬盘，合计内部存储容量达到30TB，硬盘的布局优化考虑了散热和数据安全性。

设计特点：硬盘的选择和布局考虑大数据量存储需求和快速数据访问能力。

3.2 电源模组

规格与功能：DGX A100后部下方配备6组电源，电源内部使用厚铜PCB板，确保电力供应的稳定性和效率。

设计特点：电源模组的设计考虑高效能转换和散热性能，确保长时间稳定运行。

风扇模组

4.1 风扇模组

规格与功能：DGX A10