装个牛机，再配置未蒸馏版deep seek模型，可以同时服务多少个用户呢？
本地部署的deep seek，是否也能通过网页访问呢？看到好多人用命令行问deep seek[无奈]
这命令行远程访问起来不方便，而且不能多人同时问
配个牛一点的机器，装上deep seek后，可以同时服务多少个用户呢？
如果支持200个人同时问，那就挺不错了[偷笑]
这样的机器，要什么样的配置呢？ 你先整个 ICP 备案, 再说别的 气氛组 xy. 发表于 2025-1-30 19:48
你先整个 ICP 备案, 再说别的 气氛组
等跑起来了，再整icp也不晚[恶魔] 之前说的那个6000刀的纯CPU能跑10token/s，大概够一个人的[睡觉] CPU组的也就是运行完整模型的起步价便宜，
你再哪怕收费和deepseek一样，为了方便计算输入不算钱，百万token输出值16元。
一秒10token算，10万秒赚16元，运行27小时多时间就赚16元，你再想想看电费…… H200 来一台，应该是够的 看第一句话就知道楼主压根搞不起来 用openwebui，支持用户注册 往便宜了算啊
用现在最实惠的3647平台
https://item.taobao.com/item.htm?abbucket=2&id=751740665466&ns=1&pisk=gWYQtqOgFJ2Q1pHkjpcNhPE8o675Jfu4d71JiQUUwwQdehODF9loxw-1Fdp1pylnxgBWKwIkYTWFFaOkhfkquqRHtaXx3xuV3DincZf8y9eP6PClP63I7clptab-Fuh99ZOHHDY6F0fR6f1PakEJeMITX_XOwkQJeOIOMsydyLnLNVAe2kvFxDeRNp8A-ThJK5Vw7H1l9_CLjcYMPyeJzwfRXd8bxW7-eLgOwOELJ_CLWPClNaed9MeO6_f42kBRwlh1ZOBRyapRWAuzG_iCwBGBiagdyl0y6Oa8yF1tEsRIGr5BR61PhBLQ2uClOM6v9OHmCzDGXQjWr745BBKDEspLpxSHwh91OagavZd62K1MJqyCsHR9gOdbazRFReR5ppnrTCT5diLdf7GvGN1Jegtihr5C8hsXRHcuBBpVdnQHaSMe1it1m1ITNkQe0I8lDe3QnOScNpWwHqU1WgIyjrWXszE71i451tls1uqkL2o8rRKXNojds6sZ1fw_qMCG1tls1u8cv1fCNfG_06f..&priceTId=2150441917382448143166882ef301&skuId=5352400950087&spm=a21n57.1.hoverItem.43&utparam=%7B%22aplus_abtest%22%3A%22ddd10cd00c2c62a08ceee0c0018a2bdf%22%7D&xxc=taobaoSearch
这玩意+10个显卡够了吧
CPU就用6133这样的，200块钱富裕
服务器电源也便宜，来4个 如图那样的
最后64G一根内存拉满
剩下点预算加个固态
显卡就看你打算花多少钱了
页:
[1]