英特尔宣布与IBM Cloud合作， 率先导入Gaudi 3 AI加速器

mnak888

英特尔宣布，将与IBM展开全球合作，IBM Cloud将率先导入Gaudi 3 AI加速器，作为一项服务进行部署。预计新产品将于2025年初推出，旨在帮助更经济高效地扩展企业AI，并推动以安全性和弹性为基础的创新。这次合作还将在IBM的watsonx AI和数据平台中实现对Gaudi 3的支持。



英特尔执行副总裁兼数据中心和人工智能事业部总经理Justin Hotard表示：“要释放AI的全部潜力，需要一个开放和协作的生态系统，为客户提供选择和可访问的解决方案。通过将Gaudi 3 AI加速器和至强CPU与IBM Cloud集成，我们正在创建新的AI功能，并满足对经济实惠、安全和创新的 AI 计算解决方案的需求。”

IBM Cloud是第一家采用Gaudi 3的云服务提供商（CSP），计划在watsonx AI和数据平台中利用Gaudi 3为客户提供额外的AI基础架构资源，以便在混合云环境中扩展其AI工作负载，从而帮助优化模型推理的性价比。

英特尔是在今年4月的Vision 2024活动上，宣布推出Gaudi 3加速器。英特尔表示，相比于英伟达的H100，Gaudi 3的训练性能提高了70%，推理能力提高了50%，效率提高了40%，同时功耗会更低。

相比于Gaudi 2，新一代的Gaudi 3提供了两倍的FP8和四倍的FP16性能；制造工艺由7nm升级到了5nm，由台积电（TSMC）负责制造；采用第五代张量处理核心，内核数量由24个增加到了64个，另外还有8个矩阵计算引擎；内存和缓存从96GB **E / 48MB提高到了128GB **E / 96MB，内存带宽从2.45TB/s提升至3.7TB/s；网络连接从24个100GbE变成了24个200GbE；提供了TDP为600W的PCIe 5.0双槽扩展卡和TDP为900W的OAM模块。

新闻来源 https://www.expreview.com/95605.html

lzhdim

等待民用普及。。。。。

vindemiarrix

失意者联盟抱团取暖了嘛

SevenEleven

vindemiarrix 发表于 2024-9-1 20:02
失意者联盟抱团取暖了嘛

哈哈哈 我也正想回复这个 这两家是日落西山啊  

af_x_if

Gaudi 3还是挺离谱的，堆以太网堆出比H100和MI300都高的互联带宽。