英伟达数据中心GPU最强竞争对手出货， AMD客户接收首批Instinct MI300X

sun1a2b3c4d

https://www.expreview.com/92003.html


近日LaminiAI首席执行官Sharon Zhou表示，AMD已经出货用于人工智能（AI）和高性能计算（HPC）的Instinct MI300X计算卡。据了解，LaminiAI得到了多台装载Instinct MI300X的机器，每台配有8块Instinct MI300X计算卡。这意味着，Instinct MI300X开始为企业运行大型语言模型（LLM）。

AMD开始出货Instinct MI300系列已经有一段时间了，预计新产品可能成为其历史上销售最快的产品，目前已达到10亿美元。对于AMD来说，这是一个重要的里程碑，将向英伟达主导的人工智能芯片领域发起挑战。首批Instinct MI300系列提供了两款产品，分别是Instinct MI300A（CPU+GPU）和Instinct MI300X（纯GPU）。

Instinct MI300X采用了小芯片设计，混用5nm和6nm工艺，晶体管数量达到了1530亿个。其使用了第四代Infinity Fabric解决方案，共有28个模块芯片，其中包括8个HBM和4个计算芯片，而每个计算芯片拥有2个基于CDNA 3架构的**，共80个计算单元，意味着有320个计算单元和20480个流处理器。出于良品率的考虑，AMD削减了部分计算单元，实际使用数量为304个计算单元和19456个流处理器。此外，HBM3容量达到192GB，提供了5.3TB/s的内存带宽和896GB/s的Infinity Fabric带宽。Instinct MI300A则是一款APU设计。其拥有24个基于Zen 4架构的内核，另外减少了1个计算芯片，使得计算单元数量也减至228个，对应14592个流处理器。

目前已经有不少大型云端服务器运营商采购Instinct MI300系列产品，有消息称，今年预计出货量为30万至40万，其中最大的客户是谷歌和微软，不过LaminiAI是首家确认已在使用Instinct MI300X计算卡的公司。

T3-DiDi

对Z国禁售么？

赫敏

T3-DiDi 发表于 2024-1-23 22:35
对Z国禁售么？

高于4090的都禁。而且本身也没几块，就算不禁你也抢不过谷歌微软

不过国内的AI卡不是五六年前就遍地开花了吗，还需要这些？

rukky

赫敏 发表于 2024-1-24 11:50
高于4090的都禁。而且本身也没几块，就算不禁你也抢不过谷歌微软

不过国内的AI卡不是五六年前就遍地开花 ...

asic？

fkpwolf

赫敏 发表于 2024-1-24 11:50
高于4090的都禁。而且本身也没几块，就算不禁你也抢不过谷歌微软

不过国内的AI卡不是五六年前就遍地开花 ...

不需要为什么还要抢

赫敏

fkpwolf 发表于 2024-1-24 06:06
不需要为什么还要抢

对啊，不是一举打破外国垄断了吗

coconutgallo

T3-DiDi 发表于 2024-1-24 11:35
对Z国禁售么？

这个出货之前就禁了，当然也怪AMD动作慢

大头吃小头

coconutgallo 发表于 2024-1-24 23:49
这个出货之前就禁了，当然也怪AMD动作慢

算力禁售了

但是在名单里吗？

找了一圈除了戴尔有提到mi300 剩下都没找到相关的

赫敏

大头吃小头 发表于 2024-1-24 22:42
算力禁售了

但是在名单里吗？

mi250x挺拉的吧，但一样给超算包圆了

amd计算卡都是产量非常稀少，基本一两个大客户订一批就完成了生命周期。都不用等你上名单，苏妈直接不产了

huhudna

赫敏 发表于 2024-1-24 11:50
高于4090的都禁。而且本身也没几块，就算不禁你也抢不过谷歌微软

不过国内的AI卡不是五六年前就遍地开花 ...

这可不敢当真啊

蓝屏帝

赫敏 发表于 2024-1-24 11:50
高于4090的都禁。而且本身也没几块，就算不禁你也抢不过谷歌微软

不过国内的AI卡不是五六年前就遍地开花 ...

过于离谱感觉不像反串

赫敏

蓝屏帝 发表于 2024-1-25 06:39
过于离谱感觉不像反串

当然是认真问的。几年前不是各种盘古，商汤，寒武纪，马里亚纳计划一个比一个厉害吗

谎言之神Cyric

赫敏 发表于 2024-1-26 07:49
当然是认真问的。几年前不是各种盘古，商汤，寒武纪，马里亚纳计划一个比一个厉害吗 ...

真的部署到大规模算力中心里并且有希望的似乎只有昇腾

盘古是华为搞的LLM，看上去也是走G;PT的路线，没看到有什么落地的

商汤想走C端的加速卡，还在亏损

寒武纪虽然也有中标算力中心，但是亏损很严重，感觉也要活不下去

OPPO的马里亚纳本来走得挺好的，各方面的芯片它自家都有在用，不知出于什么考量它自己把自家团队解散了，现在反而VIVO在持续做软件和生态

赫敏

谎言之神Cyric 发表于 2024-1-25 20:05
真的部署到大规模算力中心里并且有希望的似乎只有昇腾

盘古是华为搞的LLM，看上去也是走G;PT的路线，没 ...

毕竟全精度制霸方面，老黄也太熟了。国产这些卡都是低精度

蓝屏帝

赫敏 发表于 2024-1-26 07:49
当然是认真问的。几年前不是各种盘古，商汤，寒武纪，马里亚纳计划一个比一个厉害吗 ...

那些明显是炒作融资骗经费等等等啊 除了极少数政府部门左手倒右手外 没有任何一个正经公司会采购任何国内gpu

liruyuan1988

AMD目前主要还是做超算卡的，做双精度超算的，而AI这块基本上很难涉及。
NV现在主要靠AI计算了，起步早开发环境抢了先，而双精度超算市场算是躺平了。说实话AN两家都没在一个赛道上竞争。