云霄 发表于 2025-3-22 11:54

A并不是不能替代N，KT已支持ROCm一周了

a010301208 发表于 2025-3-22 12:17

只要装机量足够大，自然会有各方帮着优化适配，不过这个要慢慢来，一点点渗透[偷笑]

云霄 发表于 2025-3-22 12:20

期待9070/9070XT, 64GB*4 RAM, 9950x跑满血R1/V3 unsloth 2.51 bits动态量化的性能。要是有10 tokens/s以上，人均本地满血不远了。

KimmyGLM 发表于 2025-3-22 12:26

0.2.3post1和2，都存在降智情况，同一个模型和其他框架下跑出来的结果相差巨大。以前版本不这样的，不知道啥情况。

loughlion 发表于 2025-3-22 17:37

N卡的护城河真深啊
页: [1]
查看完整版本: A并不是不能替代N，KT已支持ROCm一周了