kofe 发表于 2023-12-13 21:46

小小炼丹炉!一台 PC 两个梦想

本帖最后由 kofe 于 2023-12-31 14:48 编辑

年初,原以为拥有 MBP M2 Max 就能为所欲为、火力全开跑大模型了,无奈主流开源模型都是跑在 CUDA 设备上的,果然资本都是一层套一层的,综合时间成本考量,那就填补我的“生产力”空缺吧,于是乎白色 ITX 梦想又又提前实现啦!

先说结论,手动调整全机箱风扇为静音模式,实际跑 BERT-VITS2 模型性能如下:

CPU 半载 + GPU 满载,温度在 55°C 左右(室温 25°C)

项目名称:AIGC EVANGELION-01
配置清单:


类型 型号 数量
机箱 六鸽 K3 MINI 1
CPU Intel i5-14600k 1
GPU 七彩虹 4060ti mini 16GB 1
主板 七彩虹 B760i 1
散热 IC X67-ST 1
散热 利民 TL-K12 1
前扇 利民 TL-B14W 2
尾扇 利民 TL-B8W 2
电源 海韵 SPX 750W 1
固态 威刚 S70 Blade2T 1
内存 威刚 D500 32GB 2
螺丝 YFS 螺丝 92
线材 六鸽线材定制 1
线材 魔兽 HDMI 1
线材 镀银电源线 1
防尘 银欣防尘罩 3


机子样图
















测试数据:(候补)

1. 实际表现



2. 满载功耗
3. 日常噪音
4. 双烤噪音

uuyyhhjj 发表于 2023-12-13 21:48

电源那里是啥

kofe 发表于 2023-12-13 21:51

uuyyhhjj 发表于 2023-12-13 21:48
电源那里是啥

指线材么?原本只是凑白银风格,买回来一看头都大了...变得头重脚轻。

spielberg 发表于 2023-12-13 22:22

16G显存也跑不了多大的模型啊.....

yin19991999 发表于 2023-12-13 22:26

看了下这是训练声音模型?感觉4060ti不太顶啊

kofe 发表于 2023-12-13 22:43

spielberg 发表于 2023-12-13 22:22
16G显存也跑不了多大的模型啊.....

入门级,最小成本在本地调,验证模型可行还得上云哈哈

kofe 发表于 2023-12-13 22:46

yin19991999 发表于 2023-12-13 22:26
看了下这是训练声音模型?感觉4060ti不太顶啊

嗯呢,BERT-VITS2 是适合中文语境的模型。网路上都鉴于xx原因,他人声音不能随便共享,只能自己造啦~

ConverSun 发表于 2023-12-14 02:03

建议135散热器塞满[偷笑]

kofe 发表于 2023-12-14 09:57

ConverSun 发表于 2023-12-14 02:03
建议135散热器塞满

初版方案考虑过塔式散热器,但塞得太满感觉不好看。最后决定牺牲一点散热性能吧~

nzd 发表于 2023-12-14 10:18

坐等功耗和噪音,不过看起来散热器还能再高点?这套很不错

911degrees 发表于 2023-12-14 10:37

这个电源线 哈哈

指原莉乃 发表于 2023-12-14 11:29

这个电源线软乎么?
看起来挺有意思

J.9h0st 发表于 2023-12-14 11:50

kofe 发表于 2023-12-13 21:51
指线材么?原本只是凑白银风格,买回来一看头都大了...变得头重脚轻。

电源线那个银色圆柱是干啥用的?

kofe 发表于 2023-12-14 13:15

指原莉乃 发表于 2023-12-14 11:29
这个电源线软乎么?
看起来挺有意思

嗯呢,镀银线是最软的

kofe 发表于 2023-12-14 13:16

J.9h0st 发表于 2023-12-14 11:50
电源线那个银色圆柱是干啥用的?

徒有其表哈哈

jgvbf0wx 发表于 2023-12-14 13:54

现在电源线都这么HIFI了???????????????????????

Wolverine 发表于 2023-12-14 14:35

那个电源线好帅

qxyzy0511 发表于 2023-12-14 15:15

电源线使得机箱有一种手掌般大小的感觉

kofe 发表于 2023-12-15 00:03

qxyzy0511 发表于 2023-12-14 15:15
电源线使得机箱有一种手掌般大小的感觉

哈哈哈 谢谢兄弟给了我买线的理由(买回来之后一直觉得很违和...)

Fistan 发表于 2023-12-15 13:07

这电源线高级啊,这用的是古河的碳纤维头子吧,得1、2K了。。

kofe 发表于 2023-12-15 17:08

Fistan 发表于 2023-12-15 13:07
这电源线高级啊,这用的是古河的碳纤维头子吧,得1、2K了。。

不不,300 块就搞定了,这里不是 HIFI 需求,没有镀xx、过滤器的需求,仅仅外观唬人好看而已。

ylxwyj 发表于 2023-12-18 13:59

kofe 发表于 2023-12-13 21:51
指线材么?原本只是凑白银风格,买回来一看头都大了...变得头重脚轻。

感觉是巨炮啊 [偷笑]

Yettie 发表于 2023-12-22 14:18

嗨,跟我的心路历程一模一样的。 研究了5天,从2.0版本研究到2.3前面的都好搞。无奈学习这块MPS不行啊。尝试着改写代码替代CUDA,失败了。我再研究研究吧。

kofe 发表于 2023-12-22 14:30

Yettie 发表于 2023-12-22 14:18
嗨,跟我的心路历程一模一样的。 研究了5天,从2.0版本研究到2.3前面的都好搞。无奈学习这块MPS不行啊。尝 ...

苹果最近也推出 MLX 机器学习框架,希望明后两年有一个良好开局。
页: [1]
查看完整版本: 小小炼丹炉!一台 PC 两个梦想