为AI热潮再添动力 英伟达发布新一代芯片H200

邪恶的光B

为AI热潮再添动力 英伟达发布新一代芯片H200 (baidu.com)

财联社11月14日讯（编辑 牛占林）

当地时间周一，半导体巨头英伟达发布了新一代人工智能(AI)芯片H200，旨在培训和部署各种人工智能模型。美股盘中，英伟达股价震荡走高，目前涨逾1%。

新的H200芯片是当前用于训练最先进大语言模型H100芯片的升级产品，集成了141GB的内存，更加擅长进行“推理”。在用于推理或生成问题答案时，性能较H100提高60%至90%。


据英伟达官网消息，基于英伟达的“Hopper”架构的H200也是该公司第一款使用HBM3e内存的芯片，这种内存速度更快，容量更大，因此更适合大语言模型。

英伟达称：“借助HBM3e，英伟达H200以每秒4.8TB的速度提供141GB的内存，与A100相比，容量几乎是其两倍，带宽增加了2.4倍。

另外，H200预计将于2024年第二季度上市，将与AMD的MI300X GPU展开竞争。与H200类似，AMD的芯片比其前身拥有更多的内存，这有助于大语言模型来运算推理。

英伟达表示，H200将与H100兼容，这意味着已经在使用H100进行训练的人工智能公司，不需要改变他们的服务器系统或软件来适应H200。

英伟达副总裁伊恩·巴克声称：“为了训练生成式人工智能和高性能计算应用程序，必须使用高效能GPU。而有了H200，业界领先的人工智能超级计算平台可以更快地解决一些世界上最重要的挑战。”

英伟达加速计算首席产品经理迪翁·哈里斯表示:“看看市场上正在发生的事情，你会发现大模型尺寸正在急速膨胀。这是我们继续引领最新、最伟大技术的又一个例子。”

据美国金融机构Raymond James透露，H100芯片成本仅3320美元，但英伟达对其客户的批量价格仍然高达2.5万至4万美元。这导致H100利润率或高达1000%，成为了有史以来最赚钱的一种芯片。

而在训练大语言模型时，需要数千个H100集群工作，这导致科技巨头、初创公司和政府机构都在争夺英伟达有限的芯片供应。

由于对其产品的需求似乎是个无底洞，英伟达今年的销售额井喷，股价上涨了230%，市值突破了1.2万亿美元的大关。英伟达预计第三财季营收约为160亿美元，同比增长170%。

英伟达将在下周向投资者提供更清晰的业绩细节，该公司定于11月21日公布最新财报。

用户

不久后，平均每个臭打游戏的都有一张甚至好几张H100只是都在炼金窟老板手里

bokxp

这货不是禁运的么

aibo

这好像就是把gh200那个单独抠下来的？

sun1a2b3c4d

H100利润率或高达1000%

我的天……

脸斗士真心无解

141G是啥意思，砍了一刀？

千古伟人空一格

bokxp 发表于 2023-11-14 07:55
这货不是禁运的么

坡村、台湾转手贸易

iaminheu

千古伟人空一格 发表于 2023-11-14 09:55
坡村、台湾转手贸易

想知道 这货能直接带回国么

转手能挣多少？

lotta

iaminheu 发表于 2023-11-14 10:11
想知道 这货能直接带回国么

转手能挣多少？

普通人带这玩意销路是大问题，都是企业用的，采购讲究的是合法合规

没报关材料、没有税票、合同、售后服务这些，哪个正规企业敢买

当然了，也有走野路子的小企业和研究这玩意的个人，你能找到销售途径也能赚一笔

yinqingle

海鲜市场一堆H100

千古伟人空一格

iaminheu 发表于 2023-11-14 10:11
想知道 这货能直接带回国么

转手能挣多少？

我认识的某人，目前在坡村，从制裁开始倒卖计算卡，目前赚了一套大家拿别墅。

gigatech

lotta 发表于 2023-11-14 10:16
普通人带这玩意销路是大问题，都是企业用的，采购讲究的是合法合规

没报关材料、没有税票、合同、售后 ...

带不回来吧，过海关就被没收了

qqqjjjzzz888

英伟达真是太强了，一骑绝尘啊。

iaminheu

gigatech 发表于 2023-11-14 11:01
带不回来吧，过海关就被没收了

个人使用 也不行吗

9946612

等海鲜市场入手（误）

sss668800

iaminheu 发表于 2023-11-14 11:13
个人使用 也不行吗

不带包装应该是可以的

Flanker

aibo 发表于 2023-11-14 08:53
这好像就是把gh200那个单独抠下来的？

是也不是，h200其实是6片显存升级到hbm3e的h100，可以说是为了营销取个新名字

gh200上的h100发布时就说了，既可以是hbm3也可以是hbm3e

fairness

gigatech 发表于 2023-11-14 11:01
带不回来吧，过海关就被没收了

给祖国待会紧缺资源，有功！  怎么会没收呢？

darkness66201

fairness 发表于 2023-11-14 16:37
给祖国待会紧缺资源，有功！  怎么会没收呢？

紧缺才需要没收啊

Laferrari

bokxp 发表于 2023-11-14 07:55
这货不是禁运的么

禁运和发布不冲突啊

bjbbc

bokxp 发表于 2023-11-14 07:55
这货不是禁运的么

是啊，咱们也就炒炒4090

大白兔女乃子

bokxp 发表于 2023-11-14 07:55
这货不是禁运的么

上帝同意就行

ixion

这更新迭代确实够快的

喵尼玛

TSMC代工的单个芯片成本确实在$3000-4000左右

fxdgt

一条新的发财路：买几张显卡，然后坐飞机回来，可以挑机票便宜的，比如韩国日本什么的~

sun1a2b3c4d

ixion 发表于 2023-11-14 22:28
这更新迭代确实够快的

AI需求太火爆了

beowulf

喵尼玛 发表于 2023-11-15 09:02
TSMC代工的单个芯片成本确实在$3000-4000左右

封装+六片hbm+H100芯片一共三四千吧。
然后市场卖30K多。