ym168 发表于 2023-6-17 15:00

强劲算力背后是庞大的消耗， AMD确认Instinct MI300X功耗高达750W

AMD在6月15日的数据中心和AI技术首映活动上展示了它们的Instinct MI300X GPU，在会议上AMD并没有提及该产品的功耗相关信息，但随后Hoang Anh Phu发现了Instinct MI300X基于OAM（OCP加速器模块）的设计功耗高达750W，一举超越NVIDIA的Hopper H100的700W成为目前功耗需求最高的GPU。



AMD的Instinct MI300系列包括Instinct MI300A和MI300X，前者包含CPU与GPU，CPU部分采用了三颗Zen 4 CCD，共24核心，而GPU部分则为最先的CDNA3架构，六颗XCD芯片，并配备128GB的HBM3内存，由CPU与GPU共享。

而MI300X则是把CPU模块也换成GPU，是一个纯GPU的加速模块，配备192GB HBM3内存，由于GPU模块比CPU模块更耗电，而且HBM数量也更多，所以一个OAM模块功耗就高达750W，相比与上一代CDNA2架构的MI250X的560W提高了相当多。



最近几年数据中心GPU的功耗增长相当明显，NVIDIA H100 SXM GPU TDP高达700W，而采用风冷的PCI-E版本也要350W，基于Ponte Vecchio GPU的Intel Max 1550即使是PCI-E版本功率也要600W。

https://www.expreview.com/88839.html

KimmyGLM 发表于 2023-6-17 15:23

总感觉AMD在吹牛逼

jcd_chh 发表于 2023-6-17 21:43

我觉得功耗高这一点他至少没有吹牛逼[偷笑]

coconutgallo 发表于 2023-6-17 22:47

一颗H100 SXM 就700w呢[偷笑]
MI300X和GH200可都还带着CPU
Nvidia's Grace-Hopper chip alone requires about a kilowatt of power. So without factoring in motherboard and networking consumption, you're looking at cooling about 16 kilowatts per rack, just for the compute. This is already going to be a lot for many datacenter operators used to cooling 6-10 kilowatt racks, but at least within the realm of reason.

bigmanlei 发表于 2023-6-19 11:20

750瓦，比我的桌面暖风机强！

ixion 发表于 2023-6-20 11:33

电表都要转出火星子来了
页: [1]
查看完整版本: 强劲算力背后是庞大的消耗， AMD确认Instinct MI300X功耗高达750W