第一代傲腾持久内存在DeepSeek上的可用度很低

用户

文字生成部分瓶颈在带宽，300G的模型就要300G x k token/s 的带宽。要k=10就要3TB带宽。所以光堆容量也没有用，还要靠压缩。

大容量对训练部分有帮助，生成暴慢但训练很快，是不是很奇怪。

赫敏

T.JOHN 发表于 2025-2-6 03:40
这个以前micro还是intel总监自己说过，论速度赶不上mem，论容量赶不上ssd。两字：没用

...

用当然还是有用的要不然现在也不会想搞CXL扩容，就是太贵了，第二代傲腾内存比同容量的内存甚至还贵那就是纯废物了

矜持之泪

测试了傲腾dcpmm 2代跑的671b，一个问题半小时，看看就好。

KimmyGLM

矜持之泪 发表于 2025-2-9 18:19
测试了傲腾dcpmm 2代跑的671b，一个问题半小时，看看就好。

0.66Token/s , 还不如买一代了，起码足够便宜啊，哈哈哈哈

os39000

矜持之泪 发表于 2025-2-9 18:19
测试了傲腾dcpmm 2代跑的671b，一个问题半小时，看看就好。

8581C在win11傻瓜式部署123B Mistral 1.35tokens /s

darkness66201

T.JOHN 发表于 2025-2-6 16:40
这个以前micro还是intel总监自己说过，论速度赶不上mem，论容量赶不上ssd。两字：没用

...

还是太贵了，其实只要能便宜点给到512-1T，哪怕比SSD 贵两三倍，凭借非易失性和体积，抗震等优势在个人领域能打的，速度对于企业有用但是对于个人作用有限，非易失对于企业由于多重备份又没那么有用，个人领域笔记本或者手机什么的来个1000甚至1500一T也是有市场，反正再多容量个人用户也用不上。