消费级PCIE5.0SSD相比PCIE4.0SSD唯一有感的应用还得是Deepseek本地部署
话说PCIE5.0也出来很多年了,之前功耗高10W-12W ,不满速 大约10G-12G,现在在主控和nand叠层的进步下,终于功耗在7W左右,可以做到PCIE5.0满速盘,且价格相对可接受了。但是在日常应用和游戏加载等环节,绝大数用户还是无感。类似5G通信相比4G没有杀手级应用来推动普及。而春节期间deepseek的横空爆发,本地化轻量级部署需求真正意义上使得PCIE5.0 SSD快出来的速度变的有意义。、
以ollama为例 由于个人电脑的使用性质,ollama默认会在5分钟空闲后释放显存,下次使用需要重新加载,而每一次加载都会影响到使用体验。简单测试5.0和4.0SSD加载DeepSeek-R1:70b的用时。
理论上
GM7000(PCIe 4.0×4,持续读取7000MB/s):理论加载时间 ≈35,462MB ÷7000MB/s = 5.07秒
GM9000(PCIe 5.0×4,持续读取14,000MB/s):理论加载时间 ≈35,462MB ÷12,000MB/s = 2.96秒
而实际上
通过HWiNFO64多次间隔5分钟记录模型加载过程中的SSD活动。
GM7000(PCIe 4.0×4,持续读取7400MB/s):实际加载时间 ≈6.6秒
GM9000(PCIe 5.0×4,持续读取14,320MB/s):实际加载时间 ≈5秒
稳定快了30%以上。在本地部署支持我们小公司10人访问下,明显体感快了不少。
而且现在PCIE5.0的ssd 在6nm或者5nm主控下,真不热了。完全可以日常主板不同马甲就散热压制了。
GM9000做工和用料真不错,独立缓存,单面2T,铜箔均热。美光BR58成熟颗粒。关键是在满速PCIE5.0中最有性价比
GM9000 日常使用是否需要加装散热器? 数不清 发表于 2025-2-28 14:08
GM9000 日常使用是否需要加装散热器?
可以不加装,无风开放平台65度左右,室温20度 mygodpp 发表于 2025-2-28 14:09
可以不加装,无风开放平台65度左右,室温20度
待机状态还是烤鸡? 数不清 发表于 2025-2-28 14:13
待机状态还是烤鸡?
crystalmark测试 跑什么模型需要用到硬盘的读写速度? 难道内存不够用了? ollama加个参数就可以不自动卸载了吧,而且速度极慢,vllm并发比ollama快3倍,公司还搞ollama? 有点牵强~[狂笑] sun3797 发表于 2025-2-28 16:25
有点牵强~
哈哈,好像有那么一点
页:
[1]