首页 / 欧洲VPS推荐 / 正文
AI服务器专家交流纪要,ai服务器有什么用

Time:2024年12月31日 Read:8 评论:42 作者:y21dr45

一、行业景气度与市场需求

AI服务器专家交流纪要,ai服务器有什么用

1 当前AI服务行业整体情况

- 截至2024年第三季度,AI服务行业的需求量持续上升。

- 以四大云厂商(亚马逊、微软、谷歌、Meta)为代表的客户需求主要集中在传统数据中心服务器上。

- 随着数学模型训练进入尾声,生成式训练的AI服务器需求将在第三季度末之前保持增长态势。

2 新架构服务器的需求情况

H200、B系列及GB200:这些新型AI服务器在市场上获得了广泛的关注和好评,特别是GB200凭借其强大的整合能力和高性能表现,受到了云厂商及企业客户的强烈青睐。

GB200的市场接受度:自今年四月份发布以来,GB200预计明年全球将采购约4万台,总出货量预计将超过5万台。

NVIDIA-L36型号:因其整合了性能强大的B200训练卡且价格相对较低,成为中小型企业及企业客户的首选。

3 GPU卡市场趋势

下半年主要增加的两类卡片:A200和B200。

H200卡片销量:下半年销量增长迅速,达到了近150万张,大量取代了H100的订单。

B200卡片销售状况:下半年预计将售出大约50万张,全年B200加B100总计将达到约80万张。

明年GPU卡市场的预期销售规模:预计总销量将达到600万张,其中B卡将占据主导地位,达到约400万张。

二、定制化服务器市场分析

1 定制化服务器的供应商市场份额

广达和工业富联:北美及台湾四大云厂商中,亚马逊、微软、Google和Meta主要依赖广达供应将近30%份额的定制化GB200机型,工业富联则占据将近40%份额。

英伟达的标准GB200供应途径:英伟达会直接少量供应给自家cloud模式,以及授权像戴尔、惠普、Silver Michael等OEM厂商进行代工生产和转售。

2 液冷技术的应用与发展

液冷系统定制化服务范围:涵盖了从机柜管路设计到服务器冷却模组功率调整的全过程。

不同客户的液冷解决方案:例如TikTok计划在美国的数据中心部署GB200服务器,采用内置CDU的方案;AWS也倾向于使用内置CDU的方案。

未来趋势:随着设备定制化的增加,预计未来会出现一些新的供应商进入市场,特别是在散热模组和连接器方面。

3 成本控制策略

CDU的选择:尽管技术上ODM厂商有能力承担CDU的设计和生产,但由于其价值量相对较低,大部分ODM厂商不愿意在此领域投入过多的研发资源。

价格差异的原因:主要源于定制化程度的不同,尤其是液冷系统的定制是影响价格的关键因素。

三、未来展望与挑战

1 互联网自研芯片的影响

亚马逊和Google的自研芯片进展:尽管两家公司正在快速推进自研芯片,但从当前实际情况来看,短期内不太可能完全取代英伟达架构。

对服务器市场格局的影响:自研芯片更多地用于内部消耗而非直接供给第三方客户。

2 定制化与标准化服务器的差异

盈利能力对比:定制化服务器的营收明显高于标准化服务器,但两者在盈利方面的差异并不太大。

成本优化:通过定制服务器,云厂商能够针对自身业务特性开发特定的数据架构,并减少不必要的零部件以实现成本节约。

3 供应商构成变化预测

未来可能的新供应商:工业富联有望被引入散热模组供应商中,立讯精密也可能被纳入连接器和线缆的供应商列表。

电源领域的供应链稳定性:由于云厂商以往主要使用光芒和台达的产品,在这方面的供应链不太可能出现新供应商的加入。

四、结论

- AI服务器市场的整体需求量持续上升,尤其是在生成式训练的AI服务器领域。

- GB200等新架构服务器受到市场的广泛欢迎,预计未来一年的市场需求将保持稳定增长。

- 定制化服务器市场呈现出显著的增长态势,特别是在液冷技术和铜缆方面,云厂商可能会引入其他供应商以降低成本。

- 尽管互联网巨头正在推进自研芯片,但在短期内不太可能完全取代英伟达架构。

- 随着技术的发展和市场需求的变化,AI服务器行业将继续面临新的机遇和挑战。

排行榜
关于我们
「好主机」服务器测评网专注于为用户提供专业、真实的服务器评测与高性价比推荐。我们通过硬核性能测试、稳定性追踪及用户真实评价,帮助企业和个人用户快速找到最适合的服务器解决方案。无论是云服务器、物理服务器还是企业级服务器,好主机都是您值得信赖的选购指南!
快捷菜单1
服务器测评
VPS测评
VPS测评
服务器资讯
服务器资讯
扫码关注
鲁ICP备2022041413号-1