mnak888 发表于 2024-8-14 14:14

NEO Semiconductor公布3D X-AI芯片技术, 以取代目前用于AI GPU的HBM



近日,NEO Semiconductor公布了3D X-AI芯片技术,以取代目前用于AI GPU的HBM。这款3D DRAM内置AI处理功能,可以处理和生成不需要数学计算的输出。当大量数据在内存和处理器之间传输时,可以缓解数据总线的瓶颈问题,提高了AI性能和效率。



NEO Semiconductor创始人兼首席执行官Andy Hsu表示:“由于架构和技术效率低下,目前的AI芯片浪费了大量的性能和功率。目前的AI芯片架构将数据存储在HBM中,并依赖GPU来执行所有计算。这种分离的数据存储和数据处理体系结构,使得数据总线成为不可避免的性能瓶颈。通过数据总线传输大量的数据会导致性能受限,而且功耗非常高。3D X-AI可以在每个HBM芯片上进行AI处理。这可以大大减少HBM和GPU之间的数据传输,从而提高性能并显着降低功耗。”

3D X-AI芯片的底部有一个神经元电路层,用于处理存储在同一芯片上的300个存储层中的数据。该3D DRAM中有8000个神经路电路,在存储器中进行AI处理,相比传统方案性能提高了100倍。其容量为128GB,每个芯片可以支持10TB/s的AI处理速度。如果将12个芯片堆叠在一个HBM封装堆栈中,可以实现1.5TB以上的存储容量以及120TB/s的处理吞吐量。



按照NEO Semiconductor说法,采用3D X-AI技术的芯片在存储密度上是当前HBM产品的八倍,更重要的是,通过减少高能耗GPU需要处理的数据量,使得降低99%的功耗。

新闻来源 https://www.expreview.com/95313.html

lzhdim 发表于 2024-8-14 19:31

3D DRAM,期待。。。。。。。。。。

libfire2002 发表于 2024-8-15 01:02

这是黑科技

赫敏 发表于 2024-8-15 05:03

模拟乘法器/忆阻器

讽刺的是忆阻器的瓶颈在于外接的IO
页: [1]
查看完整版本: NEO Semiconductor公布3D X-AI芯片技术, 以取代目前用于AI GPU的HBM