kuram 发表于 2025-2-12 11:21

内存的问题对DS的影响

看到32GB单条，现在有必要把DDR4 插满128GB吗？

这个对DS有影响吗？数据的反复性和再现性有影响不？

是影响跑得起 还是影响精确度？

kuram 发表于 2025-2-12 11:23

最近对DS太需要了

每天白天DS网页 和API基本都是无响应

只能想着自己部署小模型又差 只能想各种办法加大模型

xy. 发表于 2025-2-12 11:35

本帖最后由 xy. 于 2025-2-12 11:36 编辑

d4 2ch 32b q4 估计不到 1t/s

pdvc 发表于 2025-2-12 11:51

D4就别折腾了，顶天2t/s

pdvc 发表于 2025-2-12 11:52

kuram 发表于 2025-2-12 11:23
最近对DS太需要了

每天白天DS网页 和API基本都是无响应


白天openrouter，晚上硅基/官方，躲开**高峰期😋

bennq 发表于 2025-2-19 00:05

我4080 16g ,32b q4爆显存后,大约需求22g显存,也能有10t/s

YsHaNg 发表于 2025-2-19 02:21

字节火山api不好用吗
页: [1]
查看完整版本: 内存的问题对DS的影响