调查：AMD AI 芯片 Instinct MI300X 吸引大量用户弃用NV

楼主的马甲

https://www.ithome.com/0/754/808.htm

据最近的一项调查，大量人工智能专业人士正计划从英伟达转向采用 AMD Instinct MI300X GPU。



TensorWave 联合创始人 Jeff Tatarchuk 透露，他们进行了一项独立调查，涵盖 82 名工程师和人工智能专业人士。其中，约有 50% 的受访者表示他们对 AMD Instinct MI300X GPU 充满信心，因为相比于英伟达的 H100 系列产品，MI300X 不仅拥有更出色的性价比，而且供应充足，避免了遇到货源紧张的问题。Jeff 还提到，TensorWave 公司也将采用 MI300X 人工智能加速器。这对于 AMD 来说无疑是个好消息，因为以往其 Instinct 系列产品相比英伟达的竞品，市场占有率一直处于劣势。



据IT之家了解，AMD Instinct MI300X 人工智能加速器基于 CDNA 3 架构打造，采用混合的 5nm 和 6nm 制程工艺，拥有多达 1530 亿晶体管 (MI300X 型号)。存储方面也获得了巨大提升，MI300X 的 HBM3 容量比上一代的 MI250X (128 GB) 高出 50%。

与英伟达 H100 相比，MI300X 拥有以下优势：

内存容量高出 2.4 倍

内存带宽高出 1.6 倍

FP8 性能 (TFLOPS) 高出 1.3 倍

FP16 性能 (TFLOPS) 高出 1.3 倍

在 1v1 对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 20%

在 1v1 对比测试中，性能方面可领先 H100 (FlashAttention 2) 最多 20%

在 8v8 服务器对比测试中，性能方面可领先 H100 (Llama 2 70B) 最多 40%

在 8v8 服务器对比测试中，性能方面可领先 H100 (Bloom 176B) 最多 60%

AMD 的旗舰 Instinct 人工智能加速器 MI300X 不仅在性能上取得了巨大飞跃，而且上市时机也非常巧妙，因为英伟达目前正被积压的订单困扰，这限制了他们拓展新客户的机会。虽然此前 AMD 在人工智能领域的表现并不尽如人意，但未来似乎一片光明，有望在激烈的竞争中占据一席之地。

psps3

AI gpu芯片竞争会越来越激烈

zcyandrew

可是h200和b100已经在路上了。。。

昰昰暃暃

amd硬件性价比很高。但是软件还需要再追赶一段时间

litel

AMD握手NV：还是这个赚钱

hunterfy

走别人的路，让别人无路可走

Auki

大量是多大？

jeff.kwan

slymitec 发表于 2024-3-10 20:58
还是造这个赚钱，游戏卡都是锦上添花

有没有可能，游戏卡用户其实是老白鼠

张糊涂

能代表中国能有（潜力）一战的目前看是不是只有Huawei了

lichkong

昰昰暃暃 发表于 2024-3-10 21:47
amd硬件性价比很高。但是软件还需要再追赶一段时间

这话放到任何时期都没毛病

冷月有痕

良性竞争，这样老黄的订单压力会减小也有经历研发新产品。

大头吃小头

张糊涂 发表于 2024-3-11 09:41
能代表中国能有（潜力）一战的目前看是不是只有Huawei了

海光dcu， amd卖锐龙的时候把gcn也卖了
现在海光在照着amd专业卡在照葫芦画瓢
哇为性能现在看好一点 生态可能海光dcu更好一点，不过听说英伟达那边又不让兼容cuda了？

aasa0001

关键还是缺货。干等怎么玩，只能换了

glamor

都赶紧上。不然游戏卡会越来越贵。

JonirRings

slymitec 发表于 2024-3-10 20:58
还是造这个赚钱，游戏卡都是锦上添花

某种意义上，廉价（相对）游戏卡，可以用来扼杀想要复制路线的后继者，靠游戏市场入场。

张糊涂

大头吃小头 发表于 2024-3-11 11:57
海光dcu， amd卖锐龙的时候把gcn也卖了
现在海光在照着amd专业卡在照葫芦画瓢
哇为性能现在看好一点 生态 ...

现在国内得的大厂应该都觉醒到了这事靠外部=不靠谱了
自己的东西虽然目前初级落后点也还是得用
这一点来说好像Huawei又立功了？

楼主的马甲

Auki 发表于 2024-3-11 09:05
大量是多大？

仔细看这个新闻，俺赶脚是种炒作，淫家又没说买！
只是考虑……

话说俺贴的图咋都没上。再发次！
https://img.ithome.com/newsuploa ... ff-2d09a4d0ed05.png

谎言之神Cyric

你倒是多加几倍经费去建设你的ROCm啊

donkey_ever

这么多年了，各路专家一路唱衰老黄，唱着唱着把nv唱衰到2万亿市值了

bacu

就ROCM现在的支持程度和效率 。。。 PYTorch和TF的支持仍然bug 频频，消费卡支持的还非常有限 。。。 这么多年了软件生态仍然搞不定。
A在AI上的问题从来就不是硬件，是软件，是生态。A卡唯一的优势不是大显存，不是便宜，而是有货！