A并不是不能替代N，KT已支持ROCm一周了

云霄 · 发表于 2025-3-22 11:54

a010301208 · 发表于 2025-3-22 12:17

只要装机量足够大，自然会有各方帮着优化适配，不过这个要慢慢来，一点点渗透

云霄 · 发表于 2025-3-22 12:20

期待9070/9070XT, 64GB*4 RAM, 9950x跑满血R1/V3 unsloth 2.51 bits动态量化的性能。要是有10 tokens/s以上，人均本地满血不远了。

KimmyGLM · 发表于 2025-3-22 12:26

0.2.3post1和2，都存在降智情况，同一个模型和其他框架下跑出来的结果相差巨大。以前版本不这样的，不知道啥情况。

loughlion · 发表于 2025-3-22 17:37

N卡的护城河真深啊

账号		自动登录	找回密码
密码			加入我们

[显卡] A并不是不能替代N，KT已支持ROCm一周了