mini m4到货后，发现跑大模型还有点意义，其他。。。
其他只能上上网，剪辑视频，做个旁路由，nas就算了最有价值的可能就是做一个自己的知识库了
但还是要微调，否则用起来还没kimi好用 本帖最后由 proc 于 2024-11-17 02:06 编辑
羡慕楼主有本地大模型可以跑
我连chatGPT都不怎么用 proc 发表于 2024-11-17 02:02
羡慕楼主有本地大模型可以跑
现在没有一个自己的大模型，都没法出门，哈哈 楼主买的Mini哪个配置? 都能跑大模型了？mini m4有那么强？ 旁路由怎么实现？ wintx150 发表于 2024-11-17 09:21
楼主买的Mini哪个配置?
M4啊，刚昨天到货 tenll 发表于 2024-11-17 09:23
都能跑大模型了？mini m4有那么强？
能跑，就是没法调用gpu，所以跑起来慢 q3again0605 发表于 2024-11-17 09:52
旁路由怎么实现？
网上教程一大堆 fatppmm 发表于 2024-11-17 10:14
M4啊，刚昨天到货
内存硬盘多大? wintx150 发表于 2024-11-17 10:51
内存硬盘多大?
丐版啊，16g 256g 日常使用都能应付，就看你自己会不会用，会不会下载得到各类PJ DMG，我已经玩黑苹果差不多10年了 fatppmm 发表于 2024-11-17 10:14
能跑，就是没法调用gpu，所以跑起来慢
苹果的gpu也能跑大模形吧? 记得叫mlx还是什么 nn1122 发表于 2024-11-17 11:17
日常使用都能应付，就看你自己会不会用，会不会下载得到各类PJ DMG，我已经玩黑苹果差不多10年了 ...
日常使用应付太屈才了，关键是想着怎么样体现出mini m4的价值 承认吧，就是没啥用。
m4弄大模型有教程？ 现在都自己跑大模型了啊。。。。我还是手机问问kimi算了 这GPU也不强啊，好像也就是1060水平吧？共享显存最大有多大？ netjunegg 发表于 2024-11-17 12:05
苹果的gpu也能跑大模形吧? 记得叫mlx还是什么
pytorch是有支持M系列设备版本的。设备名要用mps，或者留auto。
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/ 只能说国内生产力需求还不大，随便cad设计或者软硬件开发都是硬需求 上网 看片 够了 当电视盒的比较多，太富了[偷笑] 你们都到货了，我还在预约抢购。这玩意需求量没这么大吧。还是🐶东在限制放货，炒热度。 狗东，抢到一个，感觉没有啥需求，又给退了[流汗] 对于大多数人来说MACMINI就是体验一把而已，结局不是吃灰就是海鲜市场。 最多跑7B的模型吧，再大的速度就低了。
这代macbook pro那块miniled屏幕提升很大，对比以前的。加入了量子点。观感好很多很多 楼主训练知识库有靠谱教程吗？ 买不到国补，京东秒无，说啥都没用。 fudaming 发表于 2024-11-18 14:30
pytorch是有支持M系列设备版本的。设备名要用mps，或者留auto。
https://pytorch.org/blog/introducing-a ...
对, 之前是mps, 比较底层, 可以作为pytorch的后端, pytorch已经支持
后来又推出了个mlx, 这个好像是从上到下全新的一套, 与pytorch并行
目前已知lm studio最新版支持mlx
页:
[1]
2