社区 › 原创分享(新) › 苹果最大芯片，1300亿晶体管M2ultra开箱

statesTQ2022 发表于 2024-1-2 20:51

DEVTANG 发表于 2024-1-2 20:44
非生产力的问题。。。192G能当显存用？ 打游戏的话爽到爆？

这个好像打游戏还不如4070ti。。。。

打游戏还是搞个PC比较好

ZEROAONE 发表于 2024-1-3 01:07

192G 的显存真的太爽了，但是好像 Apple 的后端 MPS 在推理效率上还是比不上 CUDA。不过 Apple 的 MPS 已经是非 CUDA 生态中 pytorch 支持和易用性上最好的了，Intel 的 OneAPI 和 AMD 的 Rocm 不知道要到何时才能大规模使用。自己攒的 GPU 服务器用的还是 RTX 2080Ti 魔改的 22G 显存。

statesTQ2022 发表于 2024-1-3 01:23

ZEROAONE 发表于 2024-1-3 01:07
192G 的显存真的太爽了，但是好像 Apple 的后端 MPS 在推理效率上还是比不上 CUDA。不过 Apple 的 MPS 已经 ...

确实和cuda有很明显的各方面差距
不过例如llama2-70B官方推荐 8xa100，这起码50w+了
苹果这个才4w 少个零还多呢… 也能稍微跑一下。
当然轮效率 比一张4090都有困难的… 但价格真不贵，咸鱼还有75折员工优惠可以薅，1300亿大芯片，200g显存也没几个钱…

jws7976 发表于 2024-1-3 09:21

安逸稳定[偷笑]

Doomslang 发表于 2024-1-3 12:22

首页图看成了   真动真格力

lh7166926 发表于 2024-1-3 13:29

我滴个乖乖，头一回见消费级里的巴掌大芯片

statesTQ2022 发表于 2024-1-3 14:18

lh7166926 发表于 2024-1-3 13:29
我滴个乖乖，头一回见消费级里的巴掌大芯片

[偷笑]宽度上占了主板（机身大小）快一半了

aphroditecp 发表于 2024-1-3 20:08

这芯片看着确实巨大啊……从来没想过

Vampire_KILLer 发表于 2024-1-3 21:08

当时看了个youtuber的推荐，差点为192G的内（显）存入一个。

下单的时候冷静了一下——自己一个剪网线的整个玩具大模型模拟器干球呢？约等于往水里丢钱[生病]

不过你买我真推荐[狂笑]

凮殘あ淩度 发表于 2024-1-4 08:51

这芯片确实是大啊

statesTQ2022 发表于 2024-1-4 09:07

Vampire_KILLer 发表于 2024-1-3 21:08
当时看了个youtuber的推荐，差点为192G的内（显）存入一个。

下单的时候冷静了一下——自己一个剪网线的整 ...

[偷笑]

qiga 发表于 2024-1-4 14:32

这么贵重的东西，竟然不带手套，豪[傻笑]

FAXPhilip 发表于 2024-1-4 16:12

牛啊，直接开拆

昰昰暃暃 发表于 2024-1-4 16:54

M2本来就是小幅度升级，M3不是说升级巨大么，也不知道m3u啥时候出来。

michaelxchen 发表于 2024-1-5 09:47

LLM推理对GPU消耗不大，合理的优化及版本CPU也能跑，关键是能否进行LLM训练或者SFT

statesTQ2022 发表于 2024-1-5 10:23

本帖最后由 statesTQ2022 于 2024-1-5 10:30 编辑

michaelxchen 发表于 2024-1-5 09:47
LLM推理对GPU消耗不大，合理的优化及版本CPU也能跑，关键是能否进行LLM训练或者SFT ...

训练就算了。。。。llama2-70b得2000张A100跑一个月，光卡就一个亿了吧[偷笑]

推理不做量化消耗也不小，已经吃满GPU了。微调一下已经是用户端的极限

qq775812376 发表于 2024-1-5 12:35

国内做出的ARM电脑的怎差苹果这么多

蒸熟的虾仁 发表于 2024-1-5 15:11

这个U简直是硕大啊[晕倒]

statesTQ2022 发表于 2024-1-5 15:57

蒸熟的虾仁 发表于 2024-1-5 15:11
这个U简直是硕大啊

四个i9那么大了

michaelxchen 发表于 2024-1-5 17:01

statesTQ2022 发表于 2024-1-5 10:23
训练就算了。。。。llama2-70b得2000张A100跑一个月，光卡就一个亿了吧

推理不做量化消耗也不小，已经吃 ...

8张A100就可以SFT了

statesTQ2022 发表于 2024-1-5 17:15

michaelxchen 发表于 2024-1-5 17:01
8张A100就可以SFT了

闲鱼2k买个75折优惠，44999x0.74=33749，

还不够一张A100。

force24 发表于 2024-1-5 23:02

这玩意全都可拆卸，设计还真是精妙呢。不过这个非标准的硬盘可真是苹果黑 心。

lasx 发表于 2024-1-6 00:26

音频从业者目前还不能替换intel苹果机器。

ris 发表于 2024-1-7 14:25

lasx 发表于 2024-1-6 00:26
音频从业者目前还不能替换intel苹果机器。

为什么呀？

需要Intel的CPU吗？

我还想买个m2的Mac mini玩音频呢，这下可坏了

lasx 发表于 2024-1-7 20:57

ris 发表于 2024-1-7 14:25
为什么呀？

需要Intel的CPU吗？


大多数软件并不能原生运行，特别是编曲的效果器和音源，一个工程里的插件可以转译40分钟以上

ris 发表于 2024-1-8 13:00

lasx 发表于 2024-1-7 20:57
大多数软件并不能原生运行，特别是编曲的效果器和音源，一个工程里的插件可以转译40分钟以上 ...

天啊，幸亏我没有买Mac mini，我还想着买个Mac mini专门做音乐用呢

那么，用macOS系统，就得用Logic或者Pro Tools了呗

silence0690 发表于 2024-1-10 14:30

1千3百亿.........[晕倒]
不知道还是台积电代工吗

statesTQ2022 发表于 2024-1-10 16:23

silence0690 发表于 2024-1-10 14:30
1千3百亿.........
不知道还是台积电代工吗

只有台积电的工艺做这个合适，横向空间都占了主板宽度一半了

要是intel 来做，岂不是和主板一样大了。。。

silence0690 发表于 2024-1-11 08:56

statesTQ2022 发表于 2024-1-10 16:23
只有台积电的工艺做这个合适，横向空间都占了主板宽度一半了

要是intel 来做，岂不是和主板一样大了。。 ...

[傻笑]Intel在iphone7后已经不是台积电的对手了

lasx 发表于 2024-1-11 11:46

ris 发表于 2024-1-8 13:00
天啊，幸亏我没有买Mac mini，我还想着买个Mac mini专门做音乐用呢

那么，用macOS系统，就得用Logic或者 ...

不用logic的话，真没必要用苹果系统。

查看完整版本: 苹果最大芯片，1300亿晶体管M2ultra开箱