mygodpp 发表于 2025-2-28 14:02

消费级PCIE5.0SSD相比PCIE4.0SSD唯一有感的应用还得是Deepseek本地部署



         话说PCIE5.0也出来很多年了,之前功耗高10W-12W ,不满速 大约10G-12G,现在在主控和nand叠层的进步下,终于功耗在7W左右,可以做到PCIE5.0满速盘,且价格相对可接受了。但是在日常应用和游戏加载等环节,绝大数用户还是无感。类似5G通信相比4G没有杀手级应用来推动普及。而春节期间deepseek的横空爆发,本地化轻量级部署需求真正意义上使得PCIE5.0 SSD快出来的速度变的有意义。、

      
      以ollama为例 由于个人电脑的使用性质,ollama默认会在5分钟空闲后释放显存,下次使用需要重新加载,而每一次加载都会影响到使用体验。简单测试5.0和4.0SSD加载DeepSeek-R1:70b的用时。


理论上
GM7000​(PCIe 4.0×4,持续读取7000MB/s):理论加载时间 ≈35,462MB ÷7000MB/s = ​5.07秒​
​GM9000​(PCIe 5.0×4,持续读取14,000MB/s):理论加载时间 ≈35,462MB ÷12,000MB/s = ​2.96秒

而实际上
通过HWiNFO64多次间隔5分钟记录模型加载过程中的SSD活动。

GM7000​(PCIe 4.0×4,持续读取7400MB/s):实际加载时间 ≈​6.6秒​
​GM9000​(PCIe 5.0×4,持续读取14,320MB/s):实际加载时间 ≈5秒

稳定快了30%以上。在本地部署支持我们小公司10人访问下,明显体感快了不少。


而且现在PCIE5.0的ssd 在6nm或者5nm主控下,真不热了。完全可以日常主板不同马甲就散热压制了。



GM9000做工和用料真不错,独立缓存,单面2T,铜箔均热。美光BR58成熟颗粒。关键是在满速PCIE5.0中最有性价比

数不清 发表于 2025-2-28 14:08

GM9000 日常使用是否需要加装散热器?

mygodpp 发表于 2025-2-28 14:09

数不清 发表于 2025-2-28 14:08
GM9000 日常使用是否需要加装散热器?

可以不加装,无风开放平台65度左右,室温20度

数不清 发表于 2025-2-28 14:13

mygodpp 发表于 2025-2-28 14:09
可以不加装,无风开放平台65度左右,室温20度

待机状态还是烤鸡?

mygodpp 发表于 2025-2-28 15:04

数不清 发表于 2025-2-28 14:13
待机状态还是烤鸡?

crystalmark测试

雨季不再来 发表于 2025-2-28 15:12

跑什么模型需要用到硬盘的读写速度? 难道内存不够用了?

mediali 发表于 2025-2-28 16:07

ollama加个参数就可以不自动卸载了吧,而且速度极慢,vllm并发比ollama快3倍,公司还搞ollama?

sun3797 发表于 2025-2-28 16:25

有点牵强~[狂笑]

mygodpp 发表于 2025-2-28 21:41

sun3797 发表于 2025-2-28 16:25
有点牵强~

哈哈,好像有那么一点
页: [1]
查看完整版本: 消费级PCIE5.0SSD相比PCIE4.0SSD唯一有感的应用还得是Deepseek本地部署