GB300的构成
GB300是英伟达最新一代的AI服务器产品线,其构成包括以下几个关键部分:
1. PCB和散热系统
GB300的PCBA(Printed Circuit Board Assembly)整体价格非常高,高达17万美金的价值量。其散热要求很高,包括GPU和CPU合封,散热要求更大,芯片内部散热门槛要求更高,热界面材料(Thermal Interface Material, TIM)要求更高。这意味着在散热材料方面的投入可能会增加1。
2. GPU和内存
GB300采用了双光罩设计,拥有2080亿晶体管和2万个CUDA核心,并配备288GB HBM3e显存,带宽达到8TB/s。相比GB200,GB300的显存容量提升了50%,并且带宽也有了显著的提升2。
3. 互连技术
GB300支持第五代NVLink,实现每GPU 1.8TB/s的双向带宽,最多支持576 GPU互连;PCIe Gen6接口提供256GB/s的带宽,并支持与Grace CPU的NVLink-C2C协同2。
4. 液冷系统
GB300采用了模块化冷板设计,快接头数量翻倍,这种设计使散热效率提升30%以上,同时支持模块化升级。川环科技提供的液冷用软管也是GB300液冷系统的重要组成部分3。
5. 系统架构
GB300的系统架构包括一颗Grace CPU直连两颗GPU,构成GB300 NVL72机架系统,峰值算力可达1.1 EFLOPS FP4。此外,GB300还搭载了升级版GigaThread调度引擎,支持多实例GPU(MIG)灵活分配显存资源,并引入机密计算与TEE-I/O特性保障AI模型与数据安全2。
6. 其他特性
GB300还具备多实例GPU(MIG)分区、安全计算和AI预测运维功能,进一步增强了其在AI计算领域的性能和灵活性2。
综上所述,GB300的构成涵盖了高性能的PCB和散热系统、先进的GPU和内存配置、高效的互连技术、创新的液冷系统、强大的系统架构以及其他多项增强功能,使其成为英伟达迄今为止最出色的AI服务器产品之一。