找回密码
 加入我们
搜索
      
查看: 2675|回复: 3

[通讯科技] NEO Semiconductor公布3D X-AI芯片技术, 以取代目前用于AI GPU的HBM

[复制链接]
发表于 2024-8-14 14:14 | 显示全部楼层 |阅读模式


近日,NEO Semiconductor公布了3D X-AI芯片技术,以取代目前用于AI GPU的HBM。这款3D DRAM内置AI处理功能,可以处理和生成不需要数学计算的输出。当大量数据在内存和处理器之间传输时,可以缓解数据总线的瓶颈问题,提高了AI性能和效率。

NEO_3D_X_AI_1.jpg

NEO Semiconductor创始人兼首席执行官Andy Hsu表示:“由于架构和技术效率低下,目前的AI芯片浪费了大量的性能和功率。目前的AI芯片架构将数据存储在HBM中,并依赖GPU来执行所有计算。这种分离的数据存储和数据处理体系结构,使得数据总线成为不可避免的性能瓶颈。通过数据总线传输大量的数据会导致性能受限,而且功耗非常高。3D X-AI可以在每个HBM芯片上进行AI处理。这可以大大减少HBM和GPU之间的数据传输,从而提高性能并显着降低功耗。”

3D X-AI芯片的底部有一个神经元电路层,用于处理存储在同一芯片上的300个存储层中的数据。该3D DRAM中有8000个神经路电路,在存储器中进行AI处理,相比传统方案性能提高了100倍。其容量为128GB,每个芯片可以支持10TB/s的AI处理速度。如果将12个芯片堆叠在一个HBM封装堆栈中,可以实现1.5TB以上的存储容量以及120TB/s的处理吞吐量。

NEO_3D_X_AI_2.jpg

按照NEO Semiconductor说法,采用3D X-AI技术的芯片在存储密度上是当前HBM产品的八倍,更重要的是,通过减少高能耗GPU需要处理的数据量,使得降低99%的功耗。

新闻来源 https://www.expreview.com/95313.html

评分

参与人数 1邪恶指数 +20 收起 理由
灯下狐 + 20

查看全部评分

发表于 2024-8-14 19:31 | 显示全部楼层
3D DRAM,期待。。。。。。。。。。
发表于 2024-8-15 01:02 | 显示全部楼层
这是黑科技
发表于 2024-8-15 05:03 | 显示全部楼层
模拟乘法器/忆阻器

讽刺的是忆阻器的瓶颈在于外接的IO
您需要登录后才可以回帖 登录 | 加入我们

本版积分规则

Archiver|手机版|小黑屋|Chiphell ( 沪ICP备12027953号-5 )沪公网备310112100042806 上海市互联网违法与不良信息举报中心

GMT+8, 2024-12-22 12:02 , Processed in 0.009606 second(s), 7 queries , Gzip On, Redis On.

Powered by Discuz! X3.5 Licensed

© 2007-2024 Chiphell.com All rights reserved.

快速回复 返回顶部 返回列表