11月19日,美国超级计算大会(SC24)正式开幕。鸿海、广达、和硕、技嘉、微星等人工智能服务器厂商都展示了基于 GPU的AI服务器产品。此前有报道称, 最新一代 GPU 在安装在大容量服务器机架中时面临着过热的重大挑战,这些问题甚至导致了设计变更和发货延迟。不过,戴尔CEO戴尔在社交媒体X上发文表示,第一台 GB200 NVL72服务器现已正式发货。
本次SC24大会上,鸿海子公司鸿柏科技展示了基于架构的GB200 NVL72版AI服务器,集成72颗惠达GPU和36颗Grace CPU,串联成单个强大机柜,适用万亿级美元。它是用于水平参数大语言模型(LLM)训练和即时推理应用的最强大的GB200产品。
鸿海此前曾展示过GB200 NVL72箱体,这次展示的是实际安装GPU的量产产品。据摩根士丹利估计,如果按照NVL 36版本机柜计算,将在2025年出货约6万到7万个GB200机柜。不过,各大云服务提供商(CSP)正在大量转向NVL 72版本,实际出货量可能会减少至约5万至6万个集装箱。但NVL 72单柜价格高达300万美元,NVL 36为180万美元,且出货量较小。不过,单价的提升将有助于GB200供应链增加收入。
其他厂商方面,广达也展示了基于Intel、AMD架构的AI服务器;仁宝、微星均推出了 MGX架构(H200)的AI服务器,和硕、技嘉则展示了GB200 NVL 72架构的AI服务器。
鸿海还宣布将利用平台在台湾新竹工厂打造3D数字孪生自动化生产线。以新竹的成果为基础,结合数字孪生技术,进一步拓展海外据点。
鸿海墨西哥工厂建设过程中,利用该平台引入Isaac机器人技术,结合AI驱动的仿真和数据标准技术,通过数字孪生的测试和优化,大幅提升效率。相关技术已复制到墨西哥工厂,将于明年初量产。每年可减少30%以上能源消耗,快速量产产线,提升鸿海AI服务器性能。


