AI MAX 395+ 128G内存 跑分及游戏实测，转自B站
【AI 395迷你主机，96G显存，4060级核显，部署70B大模型！六联智能AXB35-02测评-哔哩哔哩】 https://b23.tv/h4UAoIib站给抢跑了，哈哈哈[偷笑] 32b，token 3，这种肯定不是最优解
目前看到最适合小型企业的是清华的单显卡新改进，跑671b 3t/s，有点拉跨.....
内存性能拉了，感觉下一代IOD也完犊子了 lpddr这玩意跟性能就没半毛钱关系 foxsheep 发表于 2025-2-13 23:00
内存性能拉了，感觉下一代IOD也完犊子了
这倒不是问题，LPDDR5的延迟就是这样，大不了上个X3D补一下
感觉被营销了[偷笑] allensakura 发表于 2025-2-13 22:59
3t/s，有点拉跨.....
爆显存了，32G+96G的配置，up说直接爆内存了，现存占用是70G，他跑时候64+64的配置。 它测的64G的，爆了 allensakura 发表于 2025-2-13 23:03
这倒不是问题，LPDDR5的延迟就是这样，大不了上个X3D补一下
不止是延迟啊，读砍半，写也只有理论峰值80% foxsheep 发表于 2025-2-13 23:41
不止是延迟啊，读砍半，写也只有理论峰值80%
lpddr的时序也是逆天时序 1w内还能买到么 klxq15 发表于 2025-2-14 00:11
1w内还能买到么
395想1w以内？等个一两年再说吧 读砍半,又是 16B的带宽,下代iod也好不了! 这是统一架构，但有可能windows没见过，所以爆显存的时候llama.cpp还在哼哧哼哧的swap “内存”和“显存”，虽然是同构下进行，但还是会造成一点卡顿。可能就是功耗有时候掉到10w的缘故。 bennq 发表于 2025-2-14 00:24
读砍半,又是 16B的带宽,下代iod也好不了!
读砍半是咋回事，如果正式发售后还是砍半的话，一点吸引力也没有 正好零刻官博那也放出了64G情况下的DS测试（显存设定成48G） 可惜U比较弱是4+8的370
14BQ8也就6token/s
Ps 像huihui调的70BQ4大小也才40.1G按说也是能跑的 就是不知道速度能不能破1[偷笑] [偷笑] [偷笑] [偷笑] 满血mac mini m4pro 64g qwen2.5 72b q4 可以跑6 token/s左右 ，如果个想玩ai模型还是苹果机器性价比高点 这个机器最大的槽点就是只给了一个2230固态位，导致只能自己换2t的；其次是液金散热 刚刷到这个视频。感觉amd这个cpu GPU统一寻址的思路有望大放异彩。毕竟显存容量是现在的瓶颈和刚需，比GPU性能急多了。而皮衣奸商的显卡又特别喜欢卡显存容量的脖子。眼看手机都能跑的模型他的显卡都跑不了。 久坐花落多 发表于 2025-2-23 23:44
满血mac mini m4pro 64g qwen2.5 72b q4 可以跑6 token/s左右 ，如果个想玩ai模型还是苹果机器性价比高点 ...
确实，想买个32g的mac mini，跑跑14b做个人知识库，不知道合不合适 3token也太拉胯了一点 读砍半 那zen6岂不是..... klxq15 发表于 2025-2-14 00:37
读砍半是咋回事，如果正式发售后还是砍半的话，一点吸引力也没有
CPU带宽一直是残的啊。对GPU又莫得影响 kenbox 发表于 2025-2-24 08:25
这个机器最大的槽点就是只给了一个2230固态位，导致只能自己换2t的；其次是液金散热 ...
关键是尼玛都这个价格了，竟然全配置都只给1t。 啥机器给 128g 的内存
页:
[1]