消费级PCIE5.0SSD相比PCIE4.0SSD唯一有感的应用还得是Deepseek本地部署

mygodpp

         话说PCIE5.0也出来很多年了，之前功耗高10W-12W ，不满速 大约10G-12G，现在在主控和nand叠层的进步下，终于功耗在7W左右，可以做到PCIE5.0满速盘，且价格相对可接受了。但是在日常应用和游戏加载等环节，绝大数用户还是无感。类似5G通信相比4G没有杀手级应用来推动普及。而春节期间deepseek的横空爆发，本地化轻量级部署需求真正意义上使得PCIE5.0 SSD快出来的速度变的有意义。、

        
        以ollama为例 由于个人电脑的使用性质，ollama默认会在5分钟空闲后释放显存，下次使用需要重新加载，而每一次加载都会影响到使用体验。简单测试5.0和4.0SSD加载DeepSeek-R1:70b的用时。


理论上
GM7000​（PCIe 4.0×4，持续读取7000MB/s）：理论加载时间 ≈35,462MB ÷7000MB/s = ​5.07秒​
​GM9000​（PCIe 5.0×4，持续读取14,000MB/s）：理论加载时间 ≈35,462MB ÷12,000MB/s = ​2.96秒

而实际上
通过HWiNFO64多次间隔5分钟记录模型加载过程中的SSD活动。

GM7000​（PCIe 4.0×4，持续读取7400MB/s）：实际加载时间 ≈​6.6秒​
​GM9000​（PCIe 5.0×4，持续读取14,320MB/s）：实际加载时间 ≈5秒

稳定快了30%以上。在本地部署支持我们小公司10人访问下，明显体感快了不少。


而且现在PCIE5.0的ssd 在6nm或者5nm主控下，真不热了。完全可以日常主板不同马甲就散热压制了。



GM9000做工和用料真不错，独立缓存，单面2T，铜箔均热。美光BR58成熟颗粒。关键是在满速PCIE5.0中最有性价比

数不清

GM9000 日常使用是否需要加装散热器？

mygodpp

数不清 发表于 2025-2-28 14:08
GM9000 日常使用是否需要加装散热器？

可以不加装，无风开放平台65度左右，室温20度

数不清

mygodpp 发表于 2025-2-28 14:09
可以不加装，无风开放平台65度左右，室温20度

待机状态还是烤鸡？

mygodpp

数不清 发表于 2025-2-28 14:13
待机状态还是烤鸡？

crystalmark测试

雨季不再来

跑什么模型需要用到硬盘的读写速度？ 难道内存不够用了？

mediali

ollama加个参数就可以不自动卸载了吧,而且速度极慢,vllm并发比ollama快3倍,公司还搞ollama?

sun3797

有点牵强~

mygodpp

sun3797 发表于 2025-2-28 16:25
有点牵强~

哈哈，好像有那么一点