原标题:Supermicro推出全新SuperCluster解决方案,助力生成式AI部署
(全球TMT2024年3月22日讯)Supermicro, Inc.宣布推出其最新产品组合,加速生成式AI部署。Supermicro SuperCluster解决方案能为目前及未来大型语言模型(Large Language Model,LLM)硬件基础设施提供核心建构组件。Supermicro三款强大的SuperCluster解决方案现已上市并可被用于生成式AI工作运行。
这些解决方案内的4U液冷系统或8U气冷系统是专为强大LLM训练性能以及高度批次大小且大量的LLM推理所设计。Supermicro 4U NVIDIA HGX H100/H200 8-GPU系统通过液冷技术使8U气冷系统计算密度加倍,同时降低功耗量与总体拥有成本(TCO)。这些系统旨在为了支持下一代NVIDIA的Blackwell架构GPU。搭载NVIDIA HGX H100/H200 8-GPU的系统非常适合用于训练生成式Al。
配备了1U气冷Supermicro NVIDIA MGX系统的第三款SuperCluster超级集群则针对云端级推理进行了优化。采用了NVIDIA GH200 Grace Hopper Superchip的Supermicro NVIDIA MGX系统设计将能打造出未来AI计算集群的架构样式以解决生成式AI的关键瓶颈。返回搜狐,查看更多
责任编辑:
声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。