NVIDIA GH200 CPU+GPU超级芯片大升级!史无前例282GB HBM3e内存

时间:2023-08-10来源:快科技

快科技8月9日消息,NVIDIA官方宣布了新一代GH200 Grace Hopper超级芯片平台,全球首发采用HBM3e高带宽内存,可满足世界上最复杂的生成式AI负载需求。

NVIDIA 2022年3月推出了Grace Hopper超级芯片,首次将CPU、GPU融合在一块主板上,不过直到今年5月份才量产。

其中,Grace CPU拥有72个Armv9 CPU核心、198MB缓存,支持1TB/s高带宽的LPDDR5X ECC内存,还支持PCIe 5.0。

Hopper GPU则采用台积电4nm定制工艺,800亿晶体管,集成18432个CUDA核心、576个Tenor核心、60MB二级缓存,支持6144-bit HBM高带宽内存,此前版本配备的是96GB HBM3。

NVIDIA GH200 CPU+GPU超级芯片大升级!史无前例282GB HBM3e内存

双路配置的系统中,两颗新一代GH200超级芯片可带来144个CPU核心、8PFlops(8千万亿次浮点计算每秒) AI性能、282GB HBM3e内存,容量是现在的3.5倍,而高达10TB/s的带宽也是现在的3倍。

基于NVLink高速总线,GH200超级芯片还可以继续拓展互连,GPU可以访问全部的CPU内存,双路配置下总容量可达1.2TB。

NVIDIA没有透露采用的HBM3e来自哪家供应商,很可能是SK海力士。

NVIDIA GH200 CPU+GPU超级芯片大升级!史无前例282GB HBM3e内存

首批基于GH200超级芯片的系统将在2024年第二季度出货。

顺带一提,AMD Instinct MI300A、MI300X AI加速器分别配备128GB、192GB HBM3,后者带宽超过5TB/s。

NVIDIA GH200 CPU+GPU超级芯片大升级!史无前例282GB HBM3e内存


关键词: 英伟达 智能计算 AI

加入微信
获取电子行业最新资讯
搜索微信公众号:EEPW

或用微信扫描左侧二维码

相关文章

查看电脑版