hpc在服务器里是什么?企业高性能计算服务器选型别只看CPU
本文未附完整的测试环境、工具版本与原始结果,内容作为故障排查或选型资料参考,不标记为实测报告。
业务运行速度越来越慢,仿真分析要等上半天;AI模型训练排起了队,但是GPU使用率很低;老板问“是不是买了几个高端服务器就没事了”,而IT负责人又怕花的钱没有用处。很多客户是第一次听说“HPC在服务器里面是什么东西”,一般是在做高性能计算、科研仿真、金融风险控制、工业设计、人工智能训练或者大数据分析方案的时候才会碰到。
HPC是High Performance Computing的缩写,即高性能计算。在服务器场景中,并不是指某一个“神秘服务器”,而是由CPU、GPU、内存、存储、网络以及调度软件等组成的整个高算力平台。主要解决了如下问题:将大量的计算任务分成多个部分,在多台服务器或者多个处理器上同时进行,并行执行,从而使得原来要花费很长时间才能完成的计算、训练、分析等工作能够快速地被完成。
什么样的公司要使用HPC服务器呢?
如果是普通的办公、文件共享和一般的ERP系统的话,通常不需要使用到HPC。但是你如果有以下这些应用场景的话,就需要认真考虑一下了:高校科研计算、CAE/CFD仿真、芯片验证、气象分析、基因测序、金融量化、AI训练与推理、视频渲染、大数据库分析等等。该类业务特征为计算量大、数据量大、任务周期长,并且对于稳定性以及可扩展性都有较高的需求。
选择HPC服务器的时候不要只看“有多少个核心”。可以这样来判断:
看是CPU密集型还是GPU密集型
对于仿真、编译以及部分科学计算来说,更加重视的是CPU的核心数、主频与内存带宽;而对于AI训练、深度学习和图像识别等,则更多地需要考虑GPU的数量、显存大小以及GPU之间的互连性。并不是所有的高价格的GPU都适用于你所从事的工作,要先查看软件是否支持CUDA或者使用了国产GPU或者是其他的特殊加速卡。
2、看内存条的容量以及通道
很多高性能计算的任务并不是因为CPU不足而造成的,而是由于内存不足。对于有限元分析、大模型推理以及大数据量的数据处理等场景来说,要留出足够的内存容量与内存插槽,并且要注意到内存频率、通道数量以及以后扩展的空间。如果预算有限的话可以先完成目前的任务,在之后逐步进行扩容。
3、查看存储以及RAID方案
HPC会生成大量的中间文件以及最终的结果数据,所以硬盘不可以随意配置。系统盘使用的是企业级固态硬盘,数据盘则依据其容量大小以及读写要求来选用NVMe固态硬盘、SAS硬盘或者混合存储。重要的数据要进行RAID、快照、备份等策略,并且不能把所有的预算都投入到计算能力中去,在数据读取方面也要有所保证。
4、查看网络带宽以及集群之间的互连
单机HPC与集群HPC相差甚远。在进行多节点并行计算的时候,普通的千兆网卡就会成为瓶颈了,一般会选择使用10G、25G或者100G的网络,甚至还会选择高速互连方案。节点越多,网络设计就越重要,否则即使服务器配置很高,但是实际效果也不会好起来。
5、稳定性以及维护和运行的能力
HPC任务一般会连续运行好几天甚至更长的时间,所以电源冗余、散热设计、远程管理、硬件监控以及故障报警等都非常重要。机架式服务器适合于在机房内集中布置,并且通过使用远程管理端口来降低现场维护的工作量。采购的时候一定要问清楚保修期有多长、备品响应速度怎么样、上门安装服务有没有、系统部署是否包含在内以及之后的维修保养由谁负责。
6、看软件环境以及国产化的需要
HPC并不是服务器一到手就结束了,还包括了Linux系统、驱动、计算库、任务调度、虚拟化或者容器环境等。如果有国产化的替代需求的话,还需要考虑国产CPU、国产GPU、国产操作系统、数据库以及行业软件的兼容性,并不是只看硬件参数就可以的。
避坑提示:HPC服务器并不是越贵就越好,并且普通的服务器堆在一起也不能达到预期的效果。合理的方案应该首先考虑业务软件、数据量大小、并发任务数量、机房电力与散热条件以及预算范围和未来的扩展需求。还要按照品牌、CPU、GPU、内存、硬盘、网卡、服务年限等因素来计算价格,并不能只用“一台多少钱”的方式来判断。
如果要对HPC在服务器中是什么进行研究,或者是打算购买高性能计算服务器的话,在此之前可以把业务场景、使用的软件、数据量大小、并发用户数多少、有没有用到GPU以及预算范围还有国产化的程度等都列出来。可以帮您理清配置思路、预算报价方向、品牌或国产化方案,并给出安装调试、系统部署、售后服务及后期扩容的意见。