(资料图片仅供参考)
“为了满足对生成式AI不断激增的需求，数据中心需要能够满足特定需求的加速计算平台。全新GH200 Grace Hopper超级芯片平台以出色的内存技术和带宽，提高了吞吐量，在不影响性能的情况下可连接多GPU以整合性能，并且具有可以轻松部署到整个数据中心的服务器设计。”英伟达创始人兼首席执行官黄仁勋表示。
日前，英伟达发布新一代GH200 Grace Hopper平台，该平台基于全球首款搭载HBM3e处理器的Grace Hopper超级芯片，专为加速计算和生成式AI时代而构建。
新平台专为处理大语言模型、推荐系统、矢量数据库等全球最复杂的生成式AI工作负载而构建，将提供多种配置选择。
记者从英伟达官网获悉，该平台采用双配置——提供的内存容量和带宽比当前产品分别增加了3.5倍和3倍，包括一个拥有144个Arm Neoverse内核、8PFLOPS的AI性能和282GB最新HBM3e内存技术的单个服务器。
新平台采用了Grace Hopper超级芯片，可以通过NVIDIA NVLink与其他超级芯片连接，使它们能够协同工作，从而部署当下大型生成式AI模型。这种高速、一致性技术使GPU可以完全访问CPU内存，在双配置中可提供总计1.2TB的快速内存。
关键词：
