领导让给公司搭个部署deepseek的机子，目标1k token/s

keang2 · 发表于 2025-2-9 13:38

这帖水的有水平

deader · 发表于 2025-2-10 16:48

测评供参考。

我輩樹である · 发表于 2025-2-10 17:00

deader 发表于 2025-2-10 16:48
测评供参考。

对标B200的机器。

但这个比较实在是太狡猾了，实际满足阅读速度的其实是556tps@32个会话，超过32个会话就会大幅下降。3500tps是开2000个会话，每个会话1.7tps。

amd还是一把宣传的好手。

testcb00 · 发表于 2025-2-10 17:12

吹牛贴一堆人争着回

allenxml · 发表于 2025-2-10 17:27

lyys 发表于 2025-2-7 22:44
320万？

现在一台8卡都160万了

allenxml · 发表于 2025-2-10 17:32

星空小琛发表于 2025-2-7 23:52
按照去年低我询价结果，算上配套800+了

4台atlas 800T A2，2台8865 4c，1台S5731,1台小NAS

账号		自动登录	找回密码
密码			加入我们

[装机] 领导让给公司搭个部署deepseek的机子，目标1k token/s