机箱外体积都不算：homelab扩展7GPU升级方案分享

wengong8 · 发表于 2024-8-1 20:03

lh0ngfu 发表于 2024-8-1 20:00
太强了，已经听到电表倒转的声音了hhhh

空载整套扩展大约是300瓦

lh0ngfu · 发表于 2024-8-1 20:10

wengong8 发表于 2024-8-1 20:03
空载整套扩展大约是300瓦

昂昂，那几个 GPU 估计是吃电大头，SXM 的版本供电是不是更强？

加预算 · 发表于 2024-8-1 21:44

20个m2真的全插上能跑出多高的速度啊，很向往

wengong8 · 发表于 2024-8-1 21:48

加预算发表于 2024-8-1 21:44
20个m2真的全插上能跑出多高的速度啊，很向往

8796有个佬跟我同时发帖的用到了，去那边问吧

一日 · 发表于 2024-8-2 05:16

这样搞有啥意义啊？家里怎么会有数据中心GPU的需求？

这种一般不是工作中才用？比如这种用来debug的:

Screenshot 2024-08-01 at 4.12.22 PM.png

Juzi丶 · 发表于 2024-8-2 07:50

过于阴间，可以展示.jpg

sunny3201 · 发表于 2024-8-2 09:24

这个厉害了~~~

wengong8 · 发表于 2024-8-2 09:47

一日发表于 2024-8-2 05:16
这样搞有啥意义啊？家里怎么会有数据中心GPU的需求？

这种一般不是工作中才用？比如这种用来debug的:

意义是你这是公家的，我的是个人所有的。而且我只拿1%的预算就玩出了大部分效果

xunisa · 发表于 2024-8-2 12:15

壕，不过这玩意儿是不是得住在冰箱里，要不然这家里不是冬暖夏热吗？

wengong8 · 发表于 2024-8-2 12:43

xunisa 发表于 2024-8-2 12:15
壕，不过这玩意儿是不是得住在冰箱里，要不然这家里不是冬暖夏热吗？

不会，不需要冰箱，而且整体很安静。很反直觉，因为本文的扩展柜方案各个模块是单独进风，显卡没有吃cpu/硬盘的尾气，散热效率意外比机架式GPU服务器高了不少

hellduck · 发表于 2024-8-2 13:09

“丧心病狂”变成了褒义词

AdorableLake · 发表于 2024-8-2 14:32

太强了！一直在看相关内容，主要是在考虑双卡3090Ti+nvlink和四卡V100准系统，没想到还可以做混合！

sheepy · 发表于 2024-8-2 15:26

最近也在研究LLM，不过目前跑的都是YOLOv8的小东西，感觉家里的3080也勉强凑合

wengong8 · 发表于 2024-8-2 15:55

sheepy 发表于 2024-8-2 15:26
最近也在研究LLM，不过目前跑的都是YOLOv8的小东西，感觉家里的3080也勉强凑合 ...

我入门也是拿台式机跑，但是win/linux双系统太麻烦了，grub引导还被我搞炸了，还得是宿主pve的gpu服务器体验丝滑

sam_no90 · 发表于 2024-8-2 16:41

看不懂但大为震撼！

pmax · 发表于 2024-8-2 18:35

除了显存小一点，别的没毛病啊。

wengong8 · 发表于 2024-8-2 19:00

pmax 发表于 2024-8-2 18:35
除了显存小一点，别的没毛病啊。

108G总量还小啊

microk · 发表于 2024-8-3 21:37

不太懂这种比租用GPU的方式的优势在哪里。。

wengong8 · 发表于 2024-8-3 23:23

microk 发表于 2024-8-3 21:37
不太懂这种比租用GPU的方式的优势在哪里。。

租GPU确实挺省事的，就像租车开，但车永远不是自己的。租来的车不能改不能碰，灵活性远不如自己拥有一台车，真以为靠着Docker云GPU就能玩出名堂了？也许只有不断租用别人的东西，才会觉得自己什么都拥有了吧

case34466 · 发表于 2024-8-4 14:28

太顶了，2万预算弄出六卡！！！

No.47 · 发表于 2024-8-5 13:20

一日发表于 2024-8-2 05:16
这样搞有啥意义啊？家里怎么会有数据中心GPU的需求？

这种一般不是工作中才用？比如这种用来debug的:

楼主为我国AI算力反制裁事业做出了力所能及的贡献

forlove · 发表于 2024-8-6 14:48

太厉害了吧，就是普通家庭装修的埋线估计顶不住这功率。

liangns · 发表于 2024-8-6 16:08

有没有一个最终方案的连接示意图，图片前后没有太看懂，非常感谢！

T3-DiDi · 发表于 2024-8-6 16:21

wengong8 发表于 2024-8-1 12:58
混合精度800多T相当于一张pcie版h100

那意思是花2W达到了20W的效果？

hust1120 · 发表于 2024-8-7 09:53

这个的确太厉害了

sss668800 · 发表于 2024-8-7 14:39

V100 sxm2和pcie 16G版，我记得过年前就800块钱一张，后面涨的翻倍了

zhy881231 · 发表于 2024-8-7 14:40

来看看高端玩家

wengong8 · 发表于 2024-8-8 01:09

T3-DiDi 发表于 2024-8-6 16:21
那意思是花2W达到了20W的效果？

如果需求是微调大模型那确实是这样

wengong8 · 发表于 2024-8-8 01:10

liangns 发表于 2024-8-6 16:08
有没有一个最终方案的连接示意图，图片前后没有太看懂，非常感谢！

麻烦看下首图，v100套件最下边，pcie显卡中间夹着，主机最上边

huihuige · 发表于 2024-8-13 10:39

牛啊
价格居然没有十分离谱~~

账号		自动登录	找回密码
密码			加入我们

[电脑] 机箱外体积都不算：homelab扩展7GPU升级方案分享