微软分享Maia 100更多规格信息 N5工艺+CoWoS-S封装,适配AI工作负载
在去年的开发者大会上,微软宣布推出其芯片实验室设计的两款定制芯片,分别是Azure Maia 100 AI加速器和Azure Cobalt 100处理器。微软和OpenAI希望使用自己开发的AI芯片,以更高效、更低成本地适配其开发的大型语言模型(LLM),满足未来算力的需求。
近日在Hot Chip 2024大会上,微软分享了Azure Maia 100 AI加速器更多的规格信息。其芯片面积为820mm²,采用了台积电(TSMC)N5工艺制造,运用了CoWoS-S封装技术,搭配了64GB的**E,提供了1.8TB/s的带宽,主机接口为PCIe 5.0 x8通道(32GB/s),后端网络连接带宽为600GB/s,配置功耗为500W,设计支持最高700W的TDP,可根据目标工作负载有效地管理功耗。
Azure Maia 100 AI加速器配有高速Tensor单元,采用16xRx16结构单元,可为训练和推理提供高效处理,同时支持多种数据类型,包括微软于2023年通过MX联盟首次推出的MX数据格式等;矢量处理器是一个松散耦合的超标量引擎,采用定制指令集架构(ISA),支持包括FP32和BF16在内的多种数据类型;直接内存访问(DMA)引擎支持不同的张量分片方案;在Maia系统上,硬件信号标支持异步编程。
新闻来源:https://www.expreview.com/95594.html 1、啥接口???
2、用在个人电脑上???
3、功耗这么大;
4、现在AI主要算力在显卡上,个人电脑以后也会普及吧;
5、价格问题;
[偷笑]
页:
[1]