mnak888 发表于 2024-8-31 14:04

英特尔宣布与IBM Cloud合作, 率先导入Gaudi 3 AI加速器



英特尔宣布,将与IBM展开全球合作,IBM Cloud将率先导入Gaudi 3 AI加速器,作为一项服务进行部署。预计新产品将于2025年初推出,旨在帮助更经济高效地扩展企业AI,并推动以安全性和弹性为基础的创新。这次合作还将在IBM的watsonx AI和数据平台中实现对Gaudi 3的支持。



英特尔执行副总裁兼数据中心和人工智能事业部总经理Justin Hotard表示:“要释放AI的全部潜力,需要一个开放和协作的生态系统,为客户提供选择和可访问的解决方案。通过将Gaudi 3 AI加速器和至强CPU与IBM Cloud集成,我们正在创建新的AI功能,并满足对经济实惠、安全和创新的 AI 计算解决方案的需求。”

IBM Cloud是第一家采用Gaudi 3的云服务提供商(CSP),计划在watsonx AI和数据平台中利用Gaudi 3为客户提供额外的AI基础架构资源,以便在混合云环境中扩展其AI工作负载,从而帮助优化模型推理的性价比。

英特尔是在今年4月的Vision 2024活动上,宣布推出Gaudi 3加速器。英特尔表示,相比于英伟达的H100,Gaudi 3的训练性能提高了70%,推理能力提高了50%,效率提高了40%,同时功耗会更低。

相比于Gaudi 2,新一代的Gaudi 3提供了两倍的FP8和四倍的FP16性能;制造工艺由7nm升级到了5nm,由台积电(TSMC)负责制造;采用第五代张量处理核心,内核数量由24个增加到了64个,另外还有8个矩阵计算引擎;内存和缓存从96GB **E / 48MB提高到了128GB **E / 96MB,内存带宽从2.45TB/s提升至3.7TB/s;网络连接从24个100GbE变成了24个200GbE;提供了TDP为600W的PCIe 5.0双槽扩展卡和TDP为900W的OAM模块。

新闻来源 https://www.expreview.com/95605.html

lzhdim 发表于 2024-8-31 15:51

等待民用普及。。。。。[偷笑]

vindemiarrix 发表于 2024-9-1 20:02

失意者联盟抱团取暖了嘛

SevenEleven 发表于 2024-9-2 11:50

vindemiarrix 发表于 2024-9-1 20:02
失意者联盟抱团取暖了嘛

哈哈哈 我也正想回复这个 这两家是日落西山啊

af_x_if 发表于 2024-9-2 23:23

Gaudi 3还是挺离谱的,堆以太网堆出比H100和MI300都高的互联带宽。
页: [1]
查看完整版本: 英特尔宣布与IBM Cloud合作, 率先导入Gaudi 3 AI加速器