mini m4到货后，发现跑大模型还有点意义，其他。。。

fatppmm

其他只能上上网，剪辑视频，做个旁路由，nas就算了

最有价值的可能就是做一个自己的知识库了

但还是要微调，否则用起来还没kimi好用

proc

羡慕楼主有本地大模型可以跑

我连chatGP​T都不怎么用

fatppmm

proc 发表于 2024-11-17 02:02
羡慕楼主有本地大模型可以跑

现在没有一个自己的大模型，都没法出门，哈哈

wintx150

楼主买的Mini哪个配置?

tenll

都能跑大模型了？mini m4有那么强？

q3again0605

旁路由怎么实现？

fatppmm

wintx150 发表于 2024-11-17 09:21
楼主买的Mini哪个配置?

M4啊，刚昨天到货

fatppmm

tenll 发表于 2024-11-17 09:23
都能跑大模型了？mini m4有那么强？

能跑，就是没法调用gpu，所以跑起来慢

fatppmm

q3again0605 发表于 2024-11-17 09:52
旁路由怎么实现？

网上教程一大堆

wintx150

fatppmm 发表于 2024-11-17 10:14
M4啊，刚昨天到货

内存硬盘多大?

fatppmm

wintx150 发表于 2024-11-17 10:51
内存硬盘多大?

丐版啊，16g 256g

nn1122

日常使用都能应付，就看你自己会不会用，会不会下载得到各类PJ DMG，我已经玩黑苹果差不多10年了

netjunegg

fatppmm 发表于 2024-11-17 10:14
能跑，就是没法调用gpu，所以跑起来慢

苹果的gpu也能跑大模形吧? 记得叫mlx还是什么

fatppmm

nn1122 发表于 2024-11-17 11:17
日常使用都能应付，就看你自己会不会用，会不会下载得到各类PJ DMG，我已经玩黑苹果差不多10年了 ...

日常使用应付太屈才了，关键是想着怎么样体现出mini m4的价值

BetaHT

承认吧，就是没啥用。

against

m4弄大模型有教程？

kanshuderen

现在都自己跑大模型了啊。。。。我还是手机问问kimi算了

JasonGreen

这GPU也不强啊，好像也就是1060水平吧？共享显存最大有多大？

fudaming

netjunegg 发表于 2024-11-17 12:05
苹果的gpu也能跑大模形吧? 记得叫mlx还是什么

pytorch是有支持M系列设备版本的。设备名要用mps，或者留auto。
https://pytorch.org/blog/introdu ... ch-training-on-mac/

rwindz

只能说国内生产力需求还不大，随便cad设计或者软硬件开发都是硬需求

tankren

上网 看片 够了

晓古城

当电视盒的比较多，太富了

lengyue524

你们都到货了，我还在预约抢购。这玩意需求量没这么大吧。还是🐶东在限制放货，炒热度。

红清

狗东，抢到一个，感觉没有啥需求，又给退了

cluswang

对于大多数人来说MACMINI就是体验一把而已，结局不是吃灰就是海鲜市场。

uprit

最多跑7B的模型吧，再大的速度就低了。

merlinviva

这代macbook pro那块miniled屏幕提升很大，对比以前的。加入了量子点。观感好很多很多

lasx

楼主训练知识库有靠谱教程吗？

powerduke

买不到国补，京东秒无，说啥都没用。

netjunegg

fudaming 发表于 2024-11-18 14:30
pytorch是有支持M系列设备版本的。设备名要用mps，或者留auto。
https://pytorch.org/blog/introducing-a ...

对, 之前是mps, 比较底层, 可以作为pytorch的后端, pytorch已经支持

后来又推出了个mlx, 这个好像是从上到下全新的一套, 与pytorch并行

目前已知lm studio最新版支持mlx